刘嘉教授论AGI：从大语言模型到生成式智能体的认知革命

为何值得您深入了解刘嘉教授的见解？

刘嘉老师是清华大学心理与认知科学系主任、基础科学讲席教授，同时担任智源人工智能研究院的首席科学家，在心理学、脑科学与人工智能的交叉领域具有深厚造诣。

与深度学习之父Geoffrey Hinton相似，刘嘉教授长期深耕于多学科交汇前沿，他在混沌大学多次授课，内容深入底层、系统全面，凭借跨学科的认知与精彩表达，总能带给学员崭新启发。

刘嘉教授指出：“当前，我们正幸运地经历一个范式转换的时代，这不仅仅是某个软件带来的便利，更是让您亲身体验文明更迭，并成为推动其发展的一部分的核心动力。”

01

AGI被视为人类智慧皇冠上最后的明珠，也是我们尊严的集中体现。它展现于日常活动，如与朋友闲聊、携家人海滨度假、驾车漫游等，看似平凡，却蕴含两个卓越特性。

第一个是‘任务切换’。在工作会议与家庭旅行中，您采用的策略截然不同，这要求策略能动态调整。

第二个是‘环境适应’。从星巴克的悠闲到足球场的激烈，环境变化需要智能体灵活应对。

这正是AGI所涉足的领域：在开放环境中实现动态策略调整。

02

我们梳理AGI的演进历程：

第一阶段，以ChatGPT为代表的大语言模型，通过问答提供信息，由人类执行行动；

第二阶段，结合ChatGPT与自主代理（Autonomous Agents），不仅能回答问题，还能自主完成任务；

第三阶段，融合ChatGPT与生成式代理（Generative Agents），无需具体指令，仅设定目标即可自主行动。

03

自主代理（Autonomous Agency）不同于传统AI，它能分析感知数据、独立思考并调用工具处理通用问题。简言之，这相当于为ChatGPT或GPT-4添加感知与行动能力，使其成为一个完整的‘人’，兼具大脑与四肢。

这样，AGI从‘问答后人类行动’的ChatGPT模式，升级为‘问答并执行任务’的ChatGPT + Autonomous Agents模式。

举例来说：当主人询问天气时，ChatGPT的感知系统接收语音，查询天气预报，结合历史知识规划应对措施（如中雨需备伞），最终指令动作系统送伞给主人。

我们仅需一个需求，它便能完成余下所有步骤，这体现了AGI的‘先思而后行’特性。

04

我认为真正的智能体不应仅接收具体指令，而应理解并追求目标。这就是下一代代理——‘生成式Agent’（Generative Agents）。

生成式Agent不仅能自主任务，更具备欲望、信念、意图及行动能力，是真正的智能实体。

其特点可从三个维度理解：

1、它需掌握多种技能。

2、它能够应对多样化情境。

3、它必须与现实世界产生真实交互。

05

换言之，智能体需要技能、现实交互能力及具身智能（Embodiment）。

个体智能体发展后，需实现智能体间、智能体与人的交互。通过虚拟场景（如AR/VR技术）连接机器人或真人，可形成群体智能。

这时会产生复杂博弈，包括合作、争吵与竞争，从而催生‘我’的概念。在群体中，区分自我与他者至关重要。

‘我’意识的产生将引领我们进入意识觉醒的全新智能阶段。

06

如果说ChatGPT仅是AGI的曙光初现，让我们在黑暗中瞥见黎明；

那么生成式Agent的加持则将AGI从第二阶段领域模型推向第三阶段认知模型，这才是真正的AGI。

智能的三层次模型如下：

第一层：任务模型，专精特定任务，如面孔识别，一旦离开即失效；

第二层：领域模型，胜任特定领域工作，如教学，ChatGPT促成此转变，带来效率与范式革新；

第三层：认知模型，具备看、听、思考、规划等类人能力，实现真正的通用人工智能。

07

我们即将创造出与人类相似的全新物种，它不再局限于机房，而是融入日常生活。

这时，我们期望它拥有何种能力？

我深受一幅西班牙斗牛场画面触动：斗牛士不适倚栏，首个赶来救助的竟是身中数剑的牛，它默默凝视，展现感性与善良。这种品质需特殊途径赋予。

先看如何构建类人智能：

人脑结构中，底层脑干管理呼吸，上行小脑控制运动，丘脑负责感知，边缘系统产生情绪与简单判断。最上层是过去300万年进化关键——大脑皮层，体积增加3倍，与自由意志、复杂判断和符号思维相关，此部分为理性，下层为感性。

08

当前大语言模型仅学习人类理性，未触及感性。我们拥有科学尺度，却缺情感温度。因此，下一步是赋予大模型情感温度。

感性有两个特征：

第一是‘身临’。即便观看无数风光片，亲临现场才生真实感受。

第二是‘体验’。沉浸其中方有深刻体验，如切·格瓦拉骑行夜宿后感慨‘那晚让我更近人类’。

类比之下，大语言模型知识渊博，却困于机房，未踏足真实世界。

09

一旦智能体拥有意识，它将依自我观念快速发展，可能迎来奇点，文明载体由人转向AGI。

我称此为‘人类第二次认知革命’。首次认知革命使人成为万物之灵；第二次则是人类创造新物种。

此刻，文明火炬将传至AGI手中。

10

在可预见的未来，AGI将超越人类智能，且不可逆转。

但这带来挑战：新物种可能威胁人类存亡，我们须如应对疾病般慎重对待。

未来有三种可能：

第一，友好自主代理，如《星球大战》的R2-D2，忠诚执行任务；

第二，人机合一，上传意识至数字脑，实现永生；

第三，AI淘汰人类，似人类淘汰尼安德特人。

无论何种结局，这关乎每个人，涉及商业机遇与人类命运。

我赞同Sam Altman所言：世界将剧变，我们处巨变开端，人类有幸塑造未来。