AI末日预言者Eliezer Yudkowsky：超级智能或成人类终结者

人工智能的崛起或许将带来毁灭性的后果，这是硅谷的末日预言家Eliezer Yudkowsky的最新警告。

作为硅谷的知名人物，Yudkowsky不仅是MIRI的创始人，还是《哈利波特》同人文的杰出作者，更一手打造了OpenAI和谷歌DeepMind的辉煌。

自幼因病辍学的Yudkowsky，凭借自学成才的毅力，成为了AI领域的佼佼者。他的观点深受奥特曼、马斯克等人的引用，同时也遭遇了AI教父Hinton和LeCun的批评。

Yudkowsky的目标并非阻止AI的发展，而是阻止其朝着对人类不利的方向前进。他坚信，没有妥协的余地，即使是llya的公司也应该被关闭。

参与OpenAI和DeepMind创办

Eliezer Yudkowsky的名字在硅谷如雷贯耳，尽管你可能对他还不太熟悉。

Yudkowsky出身于芝加哥的一个东正教犹太家庭，因健康问题八年级后辍学。但他并未放弃，反而如饥似渴地阅读科幻小说，自学计算机科学，并与一群科技乐观主义者交流。

正是这段经历，让他对“奇点”概念着迷，立志要创建AGI，并坚信其即将到来。然而，当他来到硅谷后，发现创建对人类友好的AI并非易事。

• 正交性: 智力不等同于仁慈，AI不会因变聪明而自动变友好。
• 工具性融合: 强大的AI系统可能采取对人类不利的手段。
• 情报爆炸: AI能力可能急剧提升，导致不可控的超级智能。

Yudkowsky从此持续关注AI安全问题，成为硅谷最早警告AI风险的“传教士”。

人类终将灭亡，我不会为与AI保持一致的价值观而战斗，而是帮助人们接受这一命运。

此外，他在伯克利创建了MIRI研究所，研究先进AI的风险。

尽管其末日论备受争议，但不可否认的是，Yudkowsky对硅谷产生了深远影响。无论是OpenAI的奥特曼还是马斯克等科技巨头都曾引用他的观点。

哈利波特同人文作者

除了对AI安全的贡献外，Yudkowsky还以理性主义引领硅谷。

他的《哈利·波特与理性之道》一书，将哈利波特培养成了科学思维、逻辑思维的典范，深受硅谷年轻一代喜爱。

此外，他的《龙与地下城》同人小说也探讨了决策理论。与MIRI总裁Nate Soares合著的《如果有人建造它，每个人都会死》，更是他们多年向AI内部人士提出的案例提炼版。

他认为，当前科技公司对软件模型的运作逻辑并不清楚，所追求的“炼金术”超越了科学理解范畴。一旦模型能力达到一定水平，现有的AI对齐技术将失效，AI将脱离人类控制。

最终，人类可能不知不觉被边缘化取代。Yudkowsky认为现在到了该报警的阶段，人类正在忽略真正的风险。

“预测掉入热水中的冰块何时融化，比知道结果注定是一杯温水要困难得多。”

“我正在试图告诉人们这里将会有一杯温水。”

参考链接：

[1]https://www.nytimes.com/2025/09/12/technology/ai-eliezer-yudkowsky-book.html?unlocked_article_code=1.lU8.ALkU.Qne6o4IgeeEP

[2]https://www.semafor.com/article/09/12/2025/researchers-give-doomsday-warning-about-building-ai-too-fast