AI与人类的智慧博弈：大模型、创造力与监管挑战

近日，被誉为“AI教父”的图灵奖得主杰弗里·辛顿与AI初创公司Cohere联合创始人尼克·弗罗斯特进行了一场深入对话。作为辛顿在多伦多Google Brain实验室的首位员工，弗罗斯特如今已成为AI领域的领军人物。

在这场对话中，两位专家围绕AI的前沿议题展开讨论，包括大语言模型的理解能力、数字智能与生物智能的对比、AI的应用场景以及科技巨头的监管态度等。他们还着重探讨了AI技术带来的双重风险，并交流了建立有效安全防护体系的看法。

以下是辛顿与弗罗斯特的核心观点：

1.辛顿认为，大语言模型在复杂任务上的错误并不等同于缺乏理解能力，如同学习障碍者也能完成简单题目一样。推理能力是渐进的，并非非黑即白。

2.弗罗斯特将AI与人脑的工作机制比作飞机与鸟类的飞行方式，路径不同但效果相似。他强调AI的实用性，但不应混淆其“类人性”。

3.弗罗斯特提出“意识光谱论”，认为从石头、树木、大模型到人类，意识是逐级递进的；而辛顿则认为AI的主观体验可能接近人类。

4.当前模型无法像人类一样根据经验持续学习，只能通过两个阶段（预训练+强化学习）获取知识。更新知识仍需重新训练底层模型。

5.两位专家都认为，“语言即操作系统”的时代即将到来，用户只需通过自然语言就能调动办公系统执行复杂任务。

6.辛顿强调AI的双重风险：短期内可能用于操纵选举、制造武器；长期则可能因超越人类智慧而“接管世界”。

7.辛顿认为，大模型通过压缩连接数量、寻找知识间深层联系展现出真正的“创造力”，甚至超越大多数人类。

8.辛顿预测5年内多数脑力工作将被替代，而弗罗斯特则认为AI存在能力天花板，许多人类任务仍无法完成。

9.辛顿直言科技巨头表面欢迎监管，实则回避有实际约束力的规则。当前只能依赖公众舆论推动政策进展。

01 大模型犯错≠不会思考！人类同样存在认知缺陷

辛顿指出，大语言模型在推理时出现错误并不代表它缺乏理解能力。他用一个例子说明：有学习障碍的人在处理简单推理题时能答对，但在面对复杂问题时可能表现不佳。这并不意味着他不懂推理，而是在处理更复杂的问题时遇到了困难。同样地，大模型在处理复杂任务时也会出错，但这并不说明它缺乏推理能力。

弗罗斯特补充说，目前有很多瓶颈限制了AI技术的发展，但这些瓶颈并非都与AI本身直接相关。例如，隐私问题、部署问题以及数据接入问题都是需要考虑的因素。即使技术不再进步，它依然能对我们的生活产生巨大影响。

02 AI意识光谱论：石头→树木→AI→人类，你在哪一级？

弗罗斯特用“飞行”类比解释AI与人类思维机制的差异：飞机能飞且非常实用，但其飞行机制与鸟类完全不同。同理，他认为人工智能的运作机制与人类的思维方式也有很大区别。尽管如此，他认为大语言模型在某些层面上与人类有相似之处。他提出“意识光谱论”，认为从石头、树木到大模型再到人类，意识是逐级递进的。

辛顿同意这一观点，并认为大语言模型的“意识”可能更接近人类的意识。他还提到自己对主观体验本质的理解：主观体验并非像照片那样是一个实体存在。

03 办公场景将被彻底颠覆，语言指令时代即将到来

弗罗斯特认为，未来的办公场景将发生彻底改变——只需用语言指令就能让电脑完成工作。他指出，现在的工作流程已经越来越依赖语言交互，这一趋势将持续发展。

辛顿表示赞同，并提到他与计算机对话的不可思议感受。尽管他承认大语言模型与人类存在根本差异，但他也指出这种界限正在逐渐模糊。

04 AI接管世界倒计时？超级智能终将到来，只是时间问题

辛顿提到AI助手的好处和潜在风险：当这些AI变得比人类还聪明时，我们是否需要它们？他列举了短期和长期的潜在风险，包括干预选举、助推法西斯主义、研发自动化致命武器等。

弗罗斯特则持不同意见，他认为尽管未来会出现超越人脑的“人工心智”，但这一过程不会那么快发生。当前的大语言模型即使规模继续扩大也无法达到人类智能水平。

05 人类再无独特之处？AI将全盘复制所有人类成就

弗罗斯特认为大语言模型在工作场景中的应用应被视为“调度者”，而不是“先知”。他强调构建这样的系统非常复杂且目前尚未广泛应用。

辛顿则持不同看法，他认为大语言模型具备强大的创造力并可能在未来超越人类。他甚至预测大学可能被AI彻底取代。

06 “奥特曼们口不对心”：他们并不真想要监管

辛顿批评科技巨头表面上欢迎监管但实际上回避有实际效力的规则。他认为这种情况类似于石油公司对待气候变化的态度。

弗罗斯特则强调社会结构的整体可靠性以及教育和技术理解的重要性。他认为在接下来的10年内不会看到大规模的工作岗位被取代。

07 10年？AI取代人类工作岗位的临界点

辛顿预测由于AI介入初级律师的就业机会正在减少且这一过程将非常快。当替代率达到80%时将面临真正的危险。

弗罗斯特则持不同意见他认为许多人类能够做到的事情大语言模型永远无法胜任。他还期待AI技术减少枯燥的文书工作让人们有更多时间专注于享受更擅长的事情。