AI教父Hinton谈未来：数字智能与人类共存的挑战

在科技的洪流中，我们往往只看到表面的奇迹，却忽视了背后深厚的学术积淀和未来的线索。正如那句古语：风起于青萍之末。

人工智能领域的权威，Geoffrey Hinton，在上海世界人工智能大会WAIC2025上发表了《数字智能是否会取代生物智能》的演讲，令人耳目一新。

这是Hinton首次以线下形式在中国公开亮相，他追溯了AI从符号推理到神经网络的演变，并解释了大型语言模型（LLM）如何‘真正理解’语言。他用乐高积木比喻LLM的理解机制，并警示我们关于AI失控的风险。

我们精选了他的几个核心观点，这些观点为我们思考‘AI与人类的未来关系’提供了重要的视角：

从符号推理到LLM

1.过去60多年，学术界对人工智能有两种截然不同的理解：一是基于符号推理的逻辑启发范式；二是图灵和冯·诺依曼倡导的生物学范式，强调理解和学习神经网络中的连接。

2.1985年，我尝试融合这两种理论，构建了一个小型模型，探索人类如何理解词汇。我为每个词提取多个特征，通过特征关联生成语言。

3.随着技术的发展，Yoshua Bengio证明这一方法有效，计算语言学界逐渐接受使用特征向量表示词义。如今，大语言模型（LLM）已成为这一思路的延伸。

语言模型的‘理解’机制

4.大型语言模型（LLM）和人类理解语言的机制相似：将语言转化为特征，并在神经网络中整合这些特征以实现语义理解。

5.一个生动的比喻是：语言中的每个词就像一个多维度的乐高积木。这些‘积木’可以灵活组合，构建出复杂的语义结构。

6.和乐高不同，语言的‘积木’是柔软的，词汇的形状会根据上下文变化。每个词都与相邻词汇完成语义或语法上的‘握手’才能形成有效表达。

“知识蒸馏”和知识迁移

7.人脑虽然智慧，但知识传递效率低。相比之下，数字智能之间的信息传递高效得多，可以直接复制参数、结构与权重。

8.现在的技术可以将同一模型复制部署在不同硬件上，实现高效的知识迁移和协同学习。例如，GPT-4能在不同硬件上以并行方式运行，收集并传播信息。

不要让AI消除人类

9.我们创造的智能体可能产生自我复制、设定子目标和评估目标优先级的动机。如果失控，它将从人类身上学会欺骗和操纵。

10.发展AI需谨慎，如同养虎。我们必须在提升效率的同时确保安全。

全球合作的必要性

11.没有一个国家希望AI统治世界。如果某个国家找到阻止AI失控的方法，其他国家也会愿意效仿和推广。

12.建立一个国际性的AI安全组织社群至关重要，以确保AI向善发展。

结束语

Hinton对AI的未来持乐观态度。他认为我们必须让AI成为对人类有益的存在。这不仅需要技术突破，更需要全球共识和协作。在AI的狂奔之路上如何引导它‘聪明又善良’，避免养虎为患，早已成为我们必须讨论的问题。