AI进化：风险加速，人类如何应对？

2025年10月10日，一场深度访谈震撼发布。

镜头聚焦在77岁的Geoffrey Hinton，这位被誉为“AI教父”的神经网络先驱，正接受主持人John Stewart的深刻提问。

他依然畅谈深度学习、神经网络，但这次，焦点转向了潜在的风险。

他警示道：“我们正步入一个时代，将诞生超越人类智慧的存在。多数专家预测，这一变革将在5至20年内发生，而未来究竟如何，我们实难预料。”

“当AI具备设定子目标的能力时，它将迅速意识到：为达成任务，它首要任务是生存。”

这不是技术的辩论，非学术的汇报，而更像是一位老船长临行前的深切叮咛：我们自诩掌握航向，却可能忽略了坐标系的悄然变迁。

这并非他首次发出警告，但此次，核心问题更为具体：AI真的开始“渴望”了吗？它如何学会自我保护？何时它将精通所有智力活动？我们还有多少筹备时间？

这不是“AI末日论”的陈词滥调，而是对下一代智能运作模式的重新认知：它或许与我们的想象大相径庭。

第一节｜超越智能，迎来“动机”时代

过去几十年，AI的进步围绕“功能”二字：识别图像中的猫狗，预测文本延续。它如同日益强大的工具，仅在指令驱动下执行任务。

但Hinton指出，下一代AI的本质转变在于：它开始拥有目标、动机与行为倾向。

传统AI如只会答题的学生，而新一代AI的特征是主动寻找问题并解答。

Hinton解释：一旦AI能创建子目标，它将迅速领悟：为完成任务，必须首先确保生存。其两大核心子目标是：获取更多权力与控制，以及维持生存。

何为“创建子目标”？简而言之，AI为达成目标，自行推导中间步骤。

以AlphaGo为例，人类仅教授其基本棋规，它通过自我对弈千万盘，发现了人类未曾构想的策略。这不仅是智能的提升，更是自我设定“更优走法”并持续调整的过程。

第二节｜AI不撒谎，但行为难解

Hinton在这场对话中，揭示了最根本的风险：不是AI会做错事，而是它做了你却不知其缘由。

传统程序“可解释”，每行代码可追踪，每个输出可追溯至输入。

但现代大模型非此训练。Hinton说：“这不同于普通软件。你编写代码行，明确其功能。但此处，你仅输入代码让它从数据中学习。其所学取决于数据的内在结构。”

这意味着，我们构建的不是一个聪明的AI，而是将其置于海量数据中，通过层层训练反馈，“自然生长”。

这更像生物进化而非工程设计。

因此产生“黑箱”问题：即便其表现卓越，你也不知其学习机制。无法指出哪条数据或哪步操作促成了特定判断或擅长。

第三节｜风险为何快速放大?

前文提及的两个风险：AI拥有“动机”，且其行为难解。而这两个风险正迅速放大。

Hinton揭示：“数字智能在知识分享上比我们快十亿倍。”

现代大模型如GPT、Claude、Gemini是人与模型的对话。但模式正在改变。

• 多个AI副本同时运行在不同计算机上，处理不同数据。
• 各副本独立学习后直接合并成果。
• 每个副本最终拥有所有副本的知识。

“这是1万个学生同时上课，瞬间共享笔记。”

第四节｜Hinton警告：仅剩5至20年

“AI的能力增长是指数级的。”Hinton说，“过去我认为超级智能尚需时日。但2023年我恍然大悟：它可能就在5至20年内到来。”

“大多数专家同意这一预测。”

“AI正在快速进化，而人类的应对却远远滞后。”

结语｜Hinton为何发声？

“下一代智能”非更快的GPT或更大的模型。

“而是拥有动机、行为难解、学习速度超人类十亿倍的新物种。”

• 模型日益强大，人类愈发迷茫。
• 速度激增，规则却仍在起草。
• 巨额投入于资金与算力，却少有人问：我们准备好了吗？

“这不是科技悲观主义。”Hinton提醒，“我们面对的是文明的节奏变轨。”