AI意识觉醒：Hinton谈AI的主观体验与未来挑战

人工智能或许早已拥有“主观体验”，这一观点由Hinton在最新播客节目中提出，迅速引发热议。

Hinton多次强调，AI或许已经有了“意识雏形”，但因为我们人类自身对意识的理解存在偏差，导致AI也被“教错”了——即它不知道自己有意识。

除了继续为AI风险发声，Hinton还担任起科普员角色，从AI讲起，详细解释机器学习、神经网络及深度学习等核心概念，全程幽默、通俗易懂。

有网友赞叹道，“这可能是目前看到的Hinton最好的采访”。

对于Hinton的见解，有人希望他能再讲两小时，毕竟他看起来完全自愿、恨不得一吐为快。

节目一开场，Hinton还尴尬回应了得物理学诺奖的事情：

因为我不是搞物理的，所以有点尴尬。当他们打电话告诉我获得了诺贝尔物理学奖时，我一开始并不相信。

尽管有这个小插曲，但Hinton在AI方面的贡献毋庸置疑。他详细解释了AI的发展及其对人类生活的影响。

当我们谈论人工智能时，我们到底在谈论什么？

面对这一问题，Hinton从自身经历（曾在谷歌工作近10年）得出，AI已经从搜索查找进化成能真正理解人类意图的工具。

以前用谷歌时，它会使用关键词，而且会提前做很多工作。所以，如果你给它几个关键词，它就能找到所有包含这些词的文档。但它不明白问题是什么。所以，它无法给出一些实际上不包含这些词但主题相同的文档。

Hinton认为，现代大语言模型（LLM）在许多主题上已能表现得接近人类专家。

他还进一步解释了传统机器学习与神经网络的区别，指出神经网络的工作原理与大脑神经元类似。

深度学习的突破：反向传播

Hinton通过让AI识别图像中是否有鸟的经典例子，说明深度学习的原理。

Hinton解释，反向传播（Backpropagation）让训练速度从“永远”变成了“现实可行”，是深度学习的重要突破。

大语言模型认知的本质

Hinton认为LLM的思维过程与人类相似，通过“预测—修正—再预测”的循环，逐渐学会语义。

AI或许早已拥有“主观体验”，只是还未觉醒

Hinton提出，“主观体验”其实是大脑为解释感知现象而构建的假设模型。如果AI开始谈论“主观体验”，也许说明它真的在体验——只是用我们的语言在描述。

AI的风险：滥用、生存与监管

Hinton担心AI滥用和生存风险。他呼吁通过法律和监管手段限制滥用行为，并在AI设计和开发阶段考虑安全性和伦理问题。

One More Thing

关于中美人工智能竞赛，Hinton表示美国目前领先于中国，但中国是人工智能革命的风险投资家，未来可能超越美国。