LeCun离职Meta：从AI黑洞到世界模型的探索

尽管小扎口头支持，但不愿真金白银投资！

在Meta工作了12年后，图灵奖得主Yann LeCun宣布将于今年年底离职，开启创业之旅。

上个月，65岁的LeCun透露了离职计划，表示Meta将成为新公司的合作伙伴，但具体细节尚未公布。

在昨日的巴黎AI-Pulse活动上，LeCun明确表示Meta并未投资他的新项目。

LeCun的神秘初创公司并不专注于ChatGPT等语言模型，而是致力于教AI理解物理世界，专注LeCun所描述的高级机器智能，即基于视觉等感官信息训练的AI，用于预测物理世界。

LLM是AI黑洞

科技巨头们纷纷向AI领域投入数十亿美元，尤其是驱动了ChatGPT、谷歌Gemini和Meta Llama的「大语言模型」（LLM）。

这些AI巨头相信，Scaling Law足以支持LLM通向AGI。

然而，几个月来，Yann LeCun逆势而为，他认为大语言模型（LLM）已触及天花板。尽管在文本生成上表现出色，但它们不懂物理世界，缺乏记忆，且在多步推理上举步维艰。

博士生不要做LLM。

LLM几乎过时了。

LLM只是token生成器，属于System 1，没有真正推理。

自回归LLM不具备达到人类智能所需的四项能力。

总之，他对LLM似乎毫无兴趣。

直到最近，Yann LeCun仍坚信LLM是AI研究界的「毒瘤」。上月，他在布鲁克林直言不讳地表示：「LLM很棒且有用，但我们理应投资」。

但他同时指出：「眼下，LLM就像个黑洞，吸干了所有资源和关注，导致其他领域几乎寸草不生。为了下一场革命，我们必须冷静思考。」

这番言论意味深长。

几个月来，Meta豪掷数十亿美元，重金招揽全明星阵容的LLM专家。

据OpenAI的首席研究官透露，Meta的举措已超越纯砸钱行为。为了挖走人才，小扎亲自端汤送给OpenAI员工：利益和情感双管齐下。

这本质上是对Yann LeCun技术路线的一种否定。

作为Meta的首席AI科学家，Yann LeCun却公开与小扎「唱反调」。两人理念冲突明显，也难怪LeCun在加入12年后选择离开Meta。

LeCun：我做世界模型快10年了

多年来，Yann LeCun一直是LLM的坚定批评者。他始终认为，仅依靠从互联网上「鲸吞」文本无法产生真正的机器智能。

他认为自主的机器智能需要另辟蹊径：世界模型（World Models）。

在法国AI研究的重点平台ai-Pulse的全体大会上，Yann LeCun将与世界模型领域的先锋公司General Intuition的创始人Pim de Witte共同阐述这一愿景。

LeCun表示，世界模型非常古老。早在1943年，「人工智能」一词出现的十二年前，苏格兰心理学家Kenneth Craik就提出了心理模型或模拟的概念。

如果生物体能在其头脑中携带外部现实的「小规模模型」，它就能尝试多种可能性……

并以一种更全面、更安全、更得体的方式做出反应。

他的理论预见了认知革命。更重要的是，他将认知与计算联系起来。

大概十年前，LeCun开始不断宣传这一观点。直到NeurIPS 2016大会上，他首次系统公开表示：「这是我们接下来需要攻克的方向」。

之后五年，他逐渐意识到仅靠生成式模型无法完成这一任务。于是开始发展非生成式方法——JEPA（Joint Embedding Predictive Architecture）。

机器人不如狗智能

作为人类，我们倾向于认为语言对智能必不可少。但事实并非如此。理解物理世界比理解语言难得多。

机器人学里的莫拉维克悖论：

要让电脑如成人般地下棋相对容易；但是要让电脑有如一岁小孩般的感知和行动能力却相当困难甚至不可能。