玻尔兹曼机与AI的进化：从气体到通用智能的探索

1984年的一天，物理学家特伦斯·谢诺夫斯基与心理学家杰弗里·辛顿在实验室中，面对着黑板上的方程陷入沉思。这是AI的第二次寒冬，神经网络的研究似乎陷入了停滞。尽管人们知道多层网络拥有更强大的潜力，但如何训练它们却成了一个谜。

谢诺夫斯基突发奇想：“如果我们把神经网络想象成一团气体呢？”这个非凡的设想最终催生了玻尔兹曼机，一个用统计物理学重新定义“学习”的数学模型。它证明了只要找到合适的能量函数，神经网络就能像气体从高温降至低温一样，自发地调整到最优状态。

这一理论成为了现代深度学习的基石之一。然而，两位科学家的研究方向逐渐分道扬镳。辛顿发现了反向传播算法，引领深度学习走出寒冬，迎来了ChatGPT主导的AI时代。而谢诺夫斯基则回到神经科学实验室，用数十年时间探索大脑的每一个回路，试图解答最初的疑问：大脑究竟是如何工作的？

40年后，辛顿因玻尔兹曼机荣获2024年诺贝尔物理学奖。在颁奖典礼上，他幽默地表示：“我和特里原本以为我们会因解释大脑而获奖，结果我们错了。但这对于物理学奖来说已经足够好了。”而83岁的谢诺夫斯基，依然在实验室里追问那个问题。

或许没有人比他更适合回答AI缺失的那些关键部分。他见证了神经网络从“异端”到“改变世界”的全过程；他既懂物理学的简洁优雅，也懂生物学的复杂混沌；他与辛顿一起打开了AI的大门，却又亲眼目睹这扇门后的世界变得越来越陌生。

在他看来，现在的ChatGPT虽然能通过哈佛医学院的考试，却连“睡觉”都不会。人类大脑在睡眠时会激活海马体整理记忆，通过做梦演练各种可能性。而ChatGPT一旦停止输入就彻底沉默，它没有海马体，没有基底神经节，甚至没有“自主生成的思想”。

尽管Transformer强大，但它只模拟了大脑皮层的一小部分功能，缺失了绝大多数关键结构。它是一个智能碎片，能思考但不会行动；能对话但不会生存。

在这场对话中，我们从历史、当下聊到未来，从这位AI先驱那里听到了关于智能本质的另一种答案：Transformer可能不是通往AGI的唯一路径。

这是一次关于物理学、神经科学与AI的深度对话，也是一次对“智能”本质的重新审视。在这个AI狂飙突进的时代，谢诺夫斯基提醒我们：技术的进步可以很快，但对智能的真正理解可能需要几代人的耐心。

以下是《Hao好聊》与谢诺夫斯基的对话，经腾讯科技精编：

01 AI历史的起点：把神经网络想象成一团气体

郝博阳： 计算神经科学是现代AI的基石。在那个年代，您和辛顿是如何利用物理学思维突破传统AI局限的？

谢诺夫斯基： 当我们开始职业生涯时，神经网络实际上还不是一个非常成熟的领域。

只有少数几个人拥有相似的直觉来理解大脑。至少我和杰弗里的方法是——大脑极其复杂，从神经元组合在一起的复杂性以及它们如何通过突触相互通信的角度看，其复杂度几乎是无限的。

但我们想要提取一般原理。这些原理与数字计算机非常不同。

当时的AI缺少学习能力这个关键部分。我们意识到AI需要一个学习算法。

当时存在一个僵局，因为单层网络（称为感知器）有一个很好的学习算法，我们想将其推广到多层网络。这就是玻尔兹曼机的用武之地。

我们将神经网络想象成一团气体。在物理学中，气体分子通过随机运动最终会达到一个能量最低的热平衡状态。我们想，如果把‘学习’定义为‘寻找能量最低状态’的过程是否有效？

02 AI的核心规律不是计算而是学习

郝博阳： 您认为每一个大脑活动最终都可以简化为计算吗？玻尔兹曼机能否代表大脑的所有基本活动？

谢诺夫斯基： 计算是物理学中的概念。但在物理学中，有一个方程叫做哈密顿量。大脑能通过‘学习’来修改自己的公式。

我们把物理学的能量方程引入AI，但允许AI通过经验来修改这个方程。

03 与辛顿的“分歧”与“共鸣”

郝博阳： 您和辛顿共同开发了玻尔兹曼机，但后来他走向了更偏向工程的“反向传播”算法。这种分歧背后的原因是什么？

谢诺夫斯基： 这实际上是我们合作的核心——我们有互补的背景。

辛顿沿着反向传播算法的线路继续前进。而我专注于神经科学。

04 为什么从生物角度入手的AI研究得了物理学奖

郝博阳： 辛顿获得物理学诺贝尔奖是因为玻尔兹曼机更像是试图解释大脑的生物学机制。

谢诺夫斯基： 玻尔兹曼机确实受生物学启发，但它属于物理学。

05 ChatGPT是一个可以被完全“解剖”的大脑

郝博阳： 现在的大型语言模型与人脑有什么本质不同？

谢诺夫斯基： ChatGPT可能不是人类，但我们拥有对它的完全访问权。

06 AI缺失的大脑拼图之一：基底神经节

郝博阳： 强化学习是实现机器学习的最佳路径吗？

谢诺夫斯基： 我们需要认知与强化学习相结合。

07 AI缺失的大脑拼图之二：内在的生命力和反思

郝博阳： 现代AI缺乏“元学习”和“持续学习”的能力。我们该如何融入这些特性？

谢诺夫斯基： 我们需要对整个架构进行根本性的重组。

08 AI缺失的大脑拼图之三：海马体

郝博阳： 如果要求大型语言模型进行“持续的主动思考”，它面临一个巨大的物理瓶颈——记忆。

谢诺夫斯基： 目前的大模型没有长期记忆和持续学习能力。

... （内容省略） ...

09 复刻人脑不应是唯一目标，理解多样性才是

...