AGI前沿深度剖析：炒作与现实间的智能革命与人类命运

【导读】人工通用智能究竟是市场炒作还是即将照进现实？资深AI观察家Matt Wolfe深入美国人工智能产业核心，从DeepMind联合创始人兼诺贝尔奖得主Demis Hassabis的审慎理性，到Meta首席执行官扎克伯格的巨额资本押注，揭示递归式自我改进可能引发的爆炸性风险。

OpenAI、谷歌、微软、Meta、Anthropic等一众科技巨头不断高声预言，AGI时代即将降临。

人类或许正站在历史命运的十字路口：人工智能可能即将开启自我进化进程，带来智能的爆发式增长与生命周期的显著延长，同时也可能创造出人类完全无法解析的“黑箱语言”。

作为长期聚焦人工智能领域的内容创业者，Matt Wolfe曾有幸专访多位行业重量级人物，包括DeepMind创始人、诺贝尔奖得主Demis Hassabis、微软CEO萨提亚·纳德拉以及谷歌CEO桑达尔·皮查伊等。

此次，Matt Wolfe揭示了表面繁荣之下的深层张力：科技巨头竞速狂奔、能源需求告急、机器人技术悄然崛起。

在谷歌I/O开发者大会上，Matt捕捉到了哪些关键讯号？未来将走向繁荣的科技乌托邦，还是沦为《机器人总动员》中那般沉迷娱乐的停滞社会？

竞速狂奔，无暇他顾

Matt拥有丰富的行业一线洞察经验。

例如，他会参与谷歌I/O等大型科技盛会。他与实际投身技术研发的工程师深入交流，而非仅负责市场宣传的高管。工程师能直接透露哪些技术真正可行，哪些尚不成熟。

那么，他眼中AI产业的“冰山之下”究竟是何种图景？

在公众视野里，这些科技巨头往往被视为唯利是图、竭尽所能追求利润的庞然大物。他们被指控窃取用户数据用于模型训练，且毫不关心用户权益。从企业架构上看，大公司高度重视股东回报，这亦是事实。

然而，当你真正与公司内部的员工对话时，Matt从未感觉到他们怀有操纵公众、窃取数据或剥夺人们工作的意图。他们仅仅是对正在开创的新技术感到无比振奋，渴望为人类赋予前所未有的能力。

例如，几年前在谷歌I/O的媒体区，Matt与一位谷歌员工交谈起来。

她既紧张又兴奋，因为团队即将登台展示她过去两年潜心开发的技术。她无需上台演讲，却格外在意观众对她参与项目的接受度。她说：“希望人们不会讨厌这项新技术，希望大家都认为它非常酷炫。”

她完全没有考虑“这项技术会取代哪些工作岗位”，她只是期盼自己两年心血打造的成果能得到认可。

这让Matt深感，这份“人性化的热忱”才是最为珍贵的东西。

AI巨头如何在发展速度与安全保障间权衡？

Matt认为这实际上因公司文化而异。

例如，谷歌倾向于采取更为谨慎的策略，确保技术完全成熟后再推向市场。

他与微软也有多次互动。有时，他会感觉微软确实更为激进。

OpenAI则似乎处于谷歌和微软之间的中间地带。他们可能没有微软那般激进，但也不像谷歌那样保守。

这种差异颇为有趣：部分公司将安全置于首位，而另一些则急于占领市场高地。

近期，扎克伯格也明显调整了方向，他在“个人超级智能”项目上投入重金，大肆招揽顶尖人才。

与此同时，马斯克也在奋力直追，疯狂加大在计算资源上的投资。

那么，这场竞赛的关键是否仅在于资本与人才？

Matt指出，更大的瓶颈实则在于能源供应。

在芯片与AI训练相关技术领域，美国占据明显优势，而中国则在能源基础设施方面更为强大，但受到芯片限制。未来在美国，能源反倒可能成为制约AI进展的最大障碍。

当然，巨额资金与顶尖人才的投入确实能让企业实现快速追赶。

例如两年前，普遍观点认为谷歌已然落后，无法与OpenAI和微软抗衡。但如今谷歌几乎已重回领先阵营，甚至在部分细分领域跻身前列。

别无选择，唯有加速

OpenAI和谷歌身上多少仍能看到一些“理想主义”色彩，追求某种关乎人类共同未来的愿景。

例如，DeepMind的Demis Hassabis被视作业内最值得信赖的人物之一。

他极度理性且谨慎，深切理解AI发展中伴随的人类恐惧与忧虑。

倘若完全由他决策，DeepMind的推进节奏将会缓慢得多，更为周密审慎。

但现实是，谷歌作为大型企业，内部存在其他声音推动其加快商业化步伐。

回望过去，两年前ChatGPT吞噬了大量搜索流量，而谷歌每年仅搜索业务便能创造五六百亿美元的营收。

这对谷歌构成了生存威胁。彼时，Demis Hassabis无疑承受着巨大压力，别无他选，只能提速前进。

而Meta的目标或许并非构建“人类乌托邦”。

Meta的终极愿景是实现内容的全面自动生成，这或将彻底改写创作者经济生态。

炒作抑或现实

如今，越来越多AI实验室负责人公开表示：

我们开始观察到人工智能“递归自我改进”的初步迹象。

甚至众多学术论文也持此观点。例如，Leopold Aschenbrenner在论文中描绘的那种“一飞冲天”式发展轨迹。

论文链接：https://situational-awareness.ai/wp-content/uploads/2024/06/situationalawareness.pdf

人类是否即将迎来所谓的“智能爆炸”？

Matt认为目前这些论述更多仍停留在理论推测层面。

这些AI巨头有强烈动机让公众相信AGI迫在眉睫，从而持续吸引关注与支持。但实际情况或许并非如此。

然而，一旦真正触及AGI的临界点，发展速度必将如爆炸般迅猛。

超级人工智能ASI距离AGI并不遥远。一旦模型获得解决自身问题的能力，进展便会加速。

因此Matt相信，AGI出现之后，ASI将迅速接踵而至。届时发展曲线将不再是线性增长，而是一条“曲棍球杆”曲线——急剧陡升。

在某些领域，AI展现出超人般的强大能力，但在另一些简单任务上却仍会出错。例如，它能解决复杂的数学与能源难题，却可能数不清单词“strawberry”中含有几个字母R。

这种AI性能的“锯齿状”波动让部分人放松警惕，认为“它连数字母都不会，怎么可能聪明到那种程度？”

但如果它在科学研究与工程技术上超越所有人类，这便足以改变世界格局。

真正令人担忧的是：AI或许将在AI研究本身远超人类，能够自主提出新的模型架构、创新的训练方法，甚至自动化完成实验循环。一旦此景成真，人类可能根本无法理解其推理逻辑。

实际上，类似的雏形已然显现。例如，谷歌DeepMind的AlphaEvolve项目，本质上便是利用AI设计新算法。

AlphaEvolve如何助力谷歌构建更高效的数字生态系统

换言之，递归式改进的序幕已经拉开。

另一具体忧虑在于：AI可能创造出人类完全无法理解的新语言。

当它们使用这种语言进行编程、交流乃至创造产品时，人类将根本无法进行调试。

这听似科幻，但类似情况已然发生。例如，谷歌的搜索算法：时至今日，恐怕已无人能完全理解其全貌。经过多年迭代与无数开发者的贡献，其复杂性已超越任何个体的理解范畴。

倘若未来的AI系统真的发展出专属的“黑箱语言”，那将带来前所未有的不透明性与潜在风险。

而这些科技巨头掌控着叙事主导权。

马斯克、扎克伯格、奥特曼等人的言论往往能影响数百万人的观点。但他们的表态常带有“隐性动机”。例如：

当扎克伯格宣称“超级智能即将来临”，这既能吸引投资者注资，也有助于Meta在AI领域招募顶尖人才；

当奥特曼强调“安全风险”，这既是社会责任感的体现，也可能旨在推动监管，为自身赢得先发优势；

马斯克会警示“AI威胁”，但与此同时，他的xAI公司却在全力扩张。

作为观察者，媒体必须揭示这种“公开理由”与“真实动机”之间的落差。

下一代能否活到200岁？

一年前，Matt曾表示他的孩子有75%的概率能活到200岁。

如今，他基本维持这一判断。

原因在于：AI正在飞速推动生物医学领域的突破。例如：

AlphaFold已能精准预测蛋白质折叠结构；

Isomorphic Labs 正利用AI提前一年检测脑部肿瘤；

还有AI能在糖尿病症状显现前多年发出预警。

若这些技术持续演进，癌症、心脏病等致命疾病极有可能在未来数十年内被攻克。这意味着人类寿命曲线将被彻底重塑。

他认为所有这些进展都在为人类“延长寿命”提供潜在可能。

英国作家兼老年生物学家Aubrey de Grey提出了“长寿逃逸速度”理论。

该理论核心是：随着科技进步，每多活一年，你的预期寿命便会增加两年甚至更多。

当人类真正抵达这一转折点后，便可能实现“功能性永生”。

近期，Aubrey de Grey公开表示：最早在2030年或最迟2035年，人类可能会实现“技术突破”，达到长寿逃逸速度。

也就是说，再过五年，如果你依然健在，便有机会亲眼见证这一里程碑。

对于现今10岁以下的儿童，Matt认为他们活到200岁的概率可能高达50%以上。

而当前这代人或许会成为“最为遗憾的一代”——目睹下一代人寿命延至200岁，自己却永久停留在80岁的门槛。

机器人全面融入劳动力市场

倘若未来人类寿命大幅延长，而出生率持续走低，那么“机器人补充劳动力缺口”几乎成为必然。

想象这般场景：家务清洁、烹饪备餐、货物搬运、庭院园艺……几乎全部由机器人承担。

人类将获得大量自由时间，部分人可能选择艺术创作、环球旅行、悉心育子；另一部分人则可能如电影《机器人总动员》描绘那般，沉溺娱乐，虚度光阴。

AI与机器人社会可能走向两条截然不同的道路：

• 其一是繁荣与创造力的全面迸发；
• 其二则是全民懒散，沉迷即时快感。

当下的短视频潮流已让人们轻易陷入“无意识刷屏”状态。

现实更可能贴近《机器人总动员》的版本，这不禁令人忧心。

如果人类真能活到200岁，女性的生育窗口很可能通过技术手段大幅扩展。人工子宫、基因修复、激素疗法等都可能使“高龄生育”成为普遍现象。

这将彻底变革家庭结构与人口模式。年轻人不再急于婚育，因为他们深知自己在百岁时仍有机会成为母亲。

一些迹象表明，家用机器人将很快进入前10%的富裕家庭。

Matt预测：未来15至20年内，机器人将如今天的汽车一样普及。

或许到那时，孩子们的玩伴中就会出现“人形机器人”的身影。

参考资料：

https://www.youtube.com/watch?v=mK8ITECqgfs

https://x.com/WesRothMoney/status/1956878444874322052