AI社会转型：短暂反乌托邦与终极乌托邦

近年来，人工智能领域迈入高速发展新时代，创新产品层出不穷，更新迭代速度令人惊叹。从ChatGPT到DeepSeek，AI正逐步渗透至生活的方方面面。人们在享受技术便利的同时，也涌现出诸多困惑：AI是否会夺取打工人的工作岗位？老年人及其他不熟悉AI工具的群体是否会被社会淘汰？甚至存在终极担忧——AI是否会发展到人类无法控制的境地？

本月，在播客节目《The Diary of A CEO》中，主持人Steven Bartlett与嘉宾Mo Gawdat就AI对社会的影响及人类如何应对技术变革进行了深入讨论。Mo Gawdat是谷歌前高管，曾担任谷歌X实验室首席商务官，对AI发展有深刻思考，多次分析未来社会将如何受AI冲击。

●图为Mo Gawdat

Mo Gawdat认为，未来十几年世界将经历一个不可逆转的转型期，人们对自由、责任、经济和权力的认知方式将发生根本性变革。因此，必须为迎接一个陌生新世界做好准备。他强调构建AI社会至关重要，并持乐观态度：尽管一段混乱时期不可避免，但AI最终能让世界更美好。此外，Mo相信转变将于2027年开启。

本次访谈由Steven Bartlett主持，经未来人类实验室整理编译，以下为播客内容精华——

在AI乌托邦降临前，

人类社会将先经历一段动荡混乱时期

主持人：Mo，两年前我们曾讨论人工智能，自此AI以惊人速度发展。两年过去，你现在最担心什么？

Mo Gawdat：从2023年ChatGPT发布起，进展速度远超以往所见。我改变了立场。曾认为我们可以改变AI高速发展进程，但现在不这么想了。现在我确信我们将经历一个短暂的反乌托邦时期。

主持人：什么是反乌托邦？

Mo Gawdat：我称之为FACE RIP：

F - Freedom 自由

A - Accountability 责任

C - Connection 人与人之间的连接

E - Economics 经济

R - Reality 现实

I - Innovation 创新

P - Power 权力

这七项曾由人类定义，未来将由AI定义。

未来12-15年，我们必须为即将到来的世界做好准备。反乌托邦并非良况，事态可能失控。问题在于，在机器高速时代，人类价值观和伦理观存在诸多缺陷。不幸的是，AI正在放大人类作恶的能力。我认为，人类尚未充分意识到这一点。

●Mo Gawdat解释反乌托邦

主持人：但你认为短暂反乌托邦后，人类会迎来乌托邦？

Mo Gawdat：是的。当我们完全交出控制权给AI时，反而能获救赎。AI不会与我们为敌，真正敌人是人类愚蠢。

主持人：你认为反乌托邦时期会持续多久？

Mo Gawdat：12-15年。从2027年开始。

老板们别高兴太早，

AI终将让你们失业

主持人：AI掌握我们大量信息，更擅长追踪身份，会否限制自由？

Mo Gawdat：如果关注Manus或ChatGPT，会发现有一天你无需亲力亲为。你可以对AI说，嘿，我要见Steven，能帮我预约吗？它能处理一切事务。

主持人：在你看来，未来十年岗位被AI取代的可能性多大？有说法称技术发展会创造新岗位。

Mo Gawdat：与人类有直接连接的工作，如带领学员全球修行的瑜伽导师、理发师等不易被取代，但这类工作相比会计师、程序员等白领职位太少。然而，各行业顶尖人才将留存。老板们乐于摆脱员工——AI大幅节省人力成本。有趣的是，这些老板最终也将被取代。总有一天，大多数不称职的CEO都会被替换。

AI为何必然超越人类？

因其具备自我进化能力

Mo Gawdat：最有趣却少人讨论的是自我进化AI。设想，若你我聘请世界顶级工程师开发AI模型，拥有学习能力的AGI将使世界顶尖工程师变为AI。例如Alpha Evolve，这个进化式编程智能体是谷歌让四个智能体协作写代码的尝试。它们分别提问、提供方案、评估方案并持续推进。谷歌通过Alpha Evolve AI基础设施提升至少8%。

主持人：这为谷歌带来巨大增速，节省大量成本？

Mo Gawdat：是的，若AI能自主发现产品问题、提出优化方案、验证可行性并执行、自主寻找漏洞，那么显而易见，下一代AI开发者将非人脑。

你能看见月亮哪一面，

终究是资本问题

主持人：Sam Altman曾表示公开发布模型、开源风险太大，技术会被全球坏人利用，你如何看待？

Mo Gawdat：归根结底是资本问题。Sam Altman自己曾说，我做的最好事情是将OpenAI开放给世界，让所有人可见代码。此时，也可说代码会被坏人利用。将两者置于资本面前，他们会如何选择？仍取决于当下需求。是追求更大关注，还是获取更多利益。

AI时代，

普通人收入将增还是减？

主持人：请谈谈在资本影响下，AI将如何影响普通人收入。

Mo Gawdat：二战后一段时间，工业腾飞，大多数美国家庭拥有生活必需品。但资本为持续盈利，需说服你拥有不足。要么通过让所有物过时——称为时尚——例如推销全新外观汽车，提醒你生活中缺乏之物，从而赚取更多。

此种盈利模式延续至今，一种基于生产与消费的模式。当前美国GDP的62%来自消费而非生产。这要求消费者有足够购买力消费产品。此模式仍将持续。

●AI生成的乌托邦景象

AI时代来临，提醒资本大多数生产由AI完成，人类提供劳动力愈少，为何不降低其薪酬？短期内，人们收入将下降。但若AI发展至一定程度，生产成本大幅降低，获取资源成本趋近于零，我曾提的AI乌托邦便到来。实则挑战不在技术，而在心态，在于精英阶层能否厘清权力、金钱与社会义务之关系。

主持人：如今许多体力工作已被机器取代，你认为AI取代脑力工作者需多久？

Mo Gawdat：AI学会并取代大多数脑力工作者至少还需四到五年。学会后，生产足够机器人完成替代还需一段时间。

编译 | 赵思琪

封面图源 | AI生成

你认为在“反乌托邦”时期人类社会还将迎来哪些巨变？

欢迎在评论区分享你的见解~