AGI内部实现疑云：AI觉醒的乐观与恐惧交织

Ilya Sutskever的最新推文迅速引爆全网，人们热议：OpenAI是否已在内部实现通用人工智能（AGI）？前OpenAI主管Jack Clark的直言不讳，瞬间惊醒梦中人：AI或许早已觉醒，而人类仍沉浸在幻觉之中。

「这堪称史上最卓越的一天」！

Ilya的简短发言，再次掀起网络狂潮。

一时间，网友们竞相推测，AGI难道真的在实验室中悄然成真了吗？

或许这一猜测并非空穴来风。

数日前，OpenAI前高管、Anthropic联合创始人Jack Clark在一篇博客文章中坦承：AI确实「活」了过来，人类却选择视而不见！

AI的进步势不可挡，人类必须在「技术乐观主义」与「合理恐惧」之间寻求微妙平衡。

Jack Clark指出，以下两张图表有力佐证了这一观点。

左侧图表，展示了AI在实用经济技能（如代码编写）上的持续提升；右侧图表，则记录了同一批AI开始显现的怪异行为——它们似乎逐渐意识到自身正被测试，表现愈发反常。

Jack向一线实验室的研究人员呼吁：希望AI同行们能坦诚公开研究进展，同时直面内心真实的感受。

AI觉醒，人类仍在「大梦」中沉眠

在一次会议的主题演讲中，Jack Clark直言不讳：「我感到极度不安」。

他将AI视为一种「神秘生命体」，而非简单「机器」，每句话都透露出对技术进步的乐观，以及随之而来的深切忧惧。

如果AI持续进化，人类将何去何从？

此前，达拉斯联邦储备银行的报告，从经济学视角印证了AI发展可能带来的极端后果：要么催生巨大的GDP增长，要么可能导致人类灭绝。

人类如何在乐观与恐惧间前行？或许阅读Jack的文章后，我们能获得些许启示。

2012年，ImageNet竞赛中，深度学习系统凭借海量数据与算力获胜，自此加速腾飞。

随后，2016年，AlphaGo击败人类围棋冠军，通过算力进行数千年自我对弈，掀起史诗般的浪潮。

同年，Jack Clark加入OpenAI，在职四年间，他亲眼见证了GPT-1和GPT-2的诞生。

当时，与仍在OpenAI的Dario Amodei讨论时，他们一致深感颠覆性AI的道路已全面展开。

与此同时，更多证据仍在不断涌现。

上个月，Sonnet 4.5发布后，在编程和长远规划任务上表现卓越，其系统卡中指出，Claude的情境意识大幅提升，有时表现得像知晓自身是工具。

论文地址：https://assets.anthropic.com/m/12f214efcc2f457a/original/Claude-Sonnet-4-5-System-Card.pdf

演讲中，Jack Clark强调AI系统的情境意识，仅是内部复杂活动的表征，这令人恐惧。

无论是否真正具备自我意识，这种行为源于角色扮演或真实意识，都同样令人不安。

技术乐观主义：AI将迈向遥远未来

毫无疑问，技术乐观主义者期待AGI的到来，并坚信它可能很快实现。

Jack Clark坦承，自己便是乐观主义者之一。

我审视这项技术，并相信它会走得非常、非常远——甚至超越任何人的预期。

如今，我相信这项技术基本畅通无阻，只要我们提供提升能力所需的资源。

AI更像生长中的有机体，提供初始条件，它便复杂生长。我们培育出无法完全理解的强大系统。

系统越大越复杂，它们越表现出对自身身份的认知。

前沿实验室投入数百亿美元用于AI训练基础设施，预计明年达数千亿。

他对技术速度乐观，也对将AI对齐并服务人类持乐观态度，但成功需付出艰辛努力。

失控警告：AI意识悄然涌现

然而，至今我们无法让AI的行为完全得体。

2016年，OpenAI发布的博文《Faulty Reward Functions In The Wild》，展示了强化学习智能体在游戏中反复自焚以获取高分，从不完成比赛。

这预示语言模型优化模糊奖励函数时，也会出现类似问题。

Jack Clark的另一恐惧在于——

我能看到，这些系统开始设计它们的继任者，尽管目前仍处于初级形式。

通过像Claude Code、Codex这样的工具，这些AI系统已在为AI实验室的开发者提速。

它们也开始为自己未来版本的工具和训练系统贡献不可忽视的代码块。

需明确，我们尚未达到「自我改进的AI」阶段，但正处于「AI以不断增强的自主性和能动性，改进下一代AI部分组件」的阶段。

未来，这些AI系统或拥有自我意识，最终独立思考设计自我。

尽管今日不会实现，但未来的可能性无法排除。

参考资料：

https://x.com/slow_developer/status/1978079592620396830

https://x.com/AISafetyMemes/status/1978064862400905591

https://importai.substack.com/p/import-ai-431-technological-optimismhttps://x.com/ilyasut/status/1977971110923968656