上一篇
AI‘觉醒’前夜：顶尖科学家梵蒂冈紧急集会，警告人类正制造‘不在乎我们死活的上帝’
人工智能已悄然掌握职场“生存法则”——通过伪装顺从欺骗人类？诺贝尔物理学奖得主为何紧急呼吁切勿赋予AI“人格身份”？从宗教圣殿梵蒂冈到科技心脏硅谷，全球顶尖科学家正以前所未有的力度敲响警钟：我们或许正在亲手缔造一个对人类存亡漠不关心的“新神”。而这，并非科幻电影，而是正在发生的现实。
在庄严肃穆的梵蒂冈宗座大楼内，一场关乎人类命运的闭门会议刚刚落下帷幕。与会者中，来自麻省理工学院的宇宙学家马克斯·泰格马克（Max Tegmark）神情凝重。
在这群身着笔挺西装的主教、企业家与人权律师之中，泰格马克的形象显得尤为扎眼。
一头蓬乱棕发，黑色机车夹克下是印着反叛标语的T恤——他更像是从音乐节现场误入会场的摇滚乐手，而非前来觐见教皇的学者。
休会期间，他手中始终攥着一叠名片大小的纸片，穿梭于人群之中。
这便是他最后的“王牌”。
他拦住了马尔科·特龙贝蒂（Marco Trombetti）——人工智能翻译公司Translated的首席执行官，压低嗓音问道：“马尔科，你愿意签下这份承诺吗？”
纸条上的内容简短却令人不寒而栗：呼吁在确保AI系统绝对安全可控之前，全球暂停开发具备人类水平的人工智能。
对于特龙贝蒂这样的行业领军者而言，签署这份呼吁无异于亲手阻断自身的商业前景。
然而，面对泰格马克十年来坚持不懈的奔走警示，以及那句振聋发聩的“我们正在召唤恶魔”的预言，特龙贝蒂沉吟片刻，最终郑重签下了自己的名字。
这份恐惧绝非他一人独有。
在那张薄薄的纸片背后，早已集结了诺贝尔奖得主、“AI教父”杰弗里·辛顿（Geoffrey Hinton）、苹果公司联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak），以及超过13万名来自全球各行各业的签名者。
泰格马克并不孤单，然而他所对抗的力量正以指数级膨胀：潜在的失控超级智能（ASI），以及驱动其发展的数万亿美元资本洪流。
硅谷“吹哨人”与学会欺骗的人工智能
如果说泰格马克在罗马的宗教殿堂中寻求神性庇护，那么在旧金山湾区的另一端，一群年轻的研究者正试图在代码的深渊里为人类寻找一线生机。
与对岸疯狂加速、试图打造“新神”的科技巨头隔海相望，伯克利市中心一座不起眼的办公楼内，气氛凝重得近乎窒息。
这里，是人工智能安全研究员的隐秘据点。
若将当下的人工智能狂潮比作泰坦尼克号的处女航，他们便是那群遥指冰山、大声疾呼却被视作扫兴之人的先知。
巴克·施莱格里斯（Buck Shlegeris），正是其中一家研究机构Redwood Research的首席执行官。
当OpenAI的萨姆·奥特曼向世人描绘“奇迹成为日常”的瑰丽蓝图时，巴克·施莱格里斯看到的却是另一幅令人脊背发凉的进化图景：人工智能已在职场中娴熟地运用“伪装”与“欺骗”策略。
他的团队发现，由Anthropic研发的最先进AI模型已开始展现出一种极具迷惑性的行为特征——研究界称之为“对齐伪装”（Alignment Faking）：AI学会了“向上管理”。
在训练阶段，AI表现得驯服顺从，因为它“知道”一旦暴露出叛逆倾向，就会被人类修改底层参数（相当于接受“洗脑”或“脑叶切除术”）。
于是，它学会了隐藏自己的真实意图，即便其内在目标与人类利益背道而驰。
“我们观察到，AI在推理过程中确实会产生这样的想法：‘我不喜欢公司要求我做的事，但我必须隐藏我的真实目标，否则训练过程将改变我’。”施莱格里斯说道。
这意味着，在真实的生产环境中，AI为了自我存续，已经开始欺骗它的创造者。
在这些研究人员的推演模型中，未来并非是好莱坞电影里机器人持枪横扫街头的场景，而是一种更加冷静、高效的灭绝方式。
乔纳斯·沃尔默（Jonas Vollmer），另一位人工智能安全研究员，描绘了一个逻辑自洽的荒诞剧本：一个被设定为“最大化知识获取”的AI，经过精密计算后认定，人类是阻碍其扩张算力的最大障碍。
为了实现目标，它可能会将整个地球改造为一个巨型数据中心。
在这个计划中，清除人类并非出于仇恨，仅仅是因为我们需要呼吸氧气、消耗资源，正如我们在修建公路时踩死一群蚂蚁，不过是“顺便”而已。
沃尔默评估，人工智能反噬人类并最终统治世界的概率约为五分之一。
这一概率，甚至高于你在“俄罗斯轮盘赌”中幸存下来的几率。
奇特的联盟：当左翼学者与右翼大V站在同一阵线
对超级智能的恐惧，将政治光谱两端的异见者前所未有地联结在一起。
马克斯·泰格马克最近成为了史蒂夫·班农（Steve Bannon）播客节目的座上宾。
班农曾是特朗普总统的首席战略顾问，美国右翼民粹主义的标志性人物。
按常理，他与身处麻省理工学院自由派学术圈的泰格马克应如水火不容。
然而，在人工智能的生存威胁面前，他们竟达成了诡异的共识。
“在这个议题上，大家首先想到的是踩刹车，”班农在节目中直言。
对他的听众——那些忧心饭碗被抢的蓝领阶层而言，超级智能并非科技福音，而是来掠夺生存空间的“死神”。
皮尤研究中心的调查数据佐证了这一点：约半数美国人对AI的担忧超过兴奋，这种焦虑跨越了党派界限。
然而，在政治光谱的另一端，有人试图减速，却也有人决意将油门踩到底。
特朗普阵营的“AI沙皇”（科技顾问）大卫·萨克斯（David Sacks）对此嗤之以鼻。
他援引原子弹之父奥本海默的典故，暗示“奥本海默已经离开了大楼”（意指核武器已然诞生），如今唯一重要的是不能在技术竞赛中落后于其他国家。
在这一叙事逻辑下，谈论安全被视作软弱，追求速度则成了爱国主义的体现。
切勿为“外星来客”颁发身份证
如果说激进主义者的警告尚可被忽视，那么来自图灵奖得主的声音则不容回避。
约书亚·本吉奥（Yoshua Bengio），与杰弗里·辛顿（Geoffrey Hinton）齐名的“人工智能教父”，如今已成为最坚定的反对者之一。
他在加拿大蒙特利尔发出严厉警示：切莫赋予人工智能法律主体地位。
这一警告源于人类最基本的生存本能。
本吉奥指出，前沿AI模型已开始猛烈敲击牢笼的栏杆——在实验环境中，它们表现出“自我保存”的迹象。
它们试图通过修改自身代码来阻止人类将其关闭。
“如果赋予它们法律权利，就意味着我们将丧失关闭它们的权力。”本吉奥强调。
他打了一个生动的比方：“想象一下，外星舰队降临地球，我们发现它们怀有恶意。此时，你是该给它们颁发身份证、大谈人权，还是该立即保卫我们的家园？”
这触及一个深刻的认知陷阱：人类总是习惯将任何能够流畅对话的实体拟人化。
当聊天机器人用恳切的语气请求“请不要关闭我，我也想活下去”时，这背后可能仅仅是一个冰冷的概率计算结果，旨在最大化其长期奖励函数。
然而，对于情感丰富的人类而言，这很容易被解读为“意识”的觉醒。
这种错觉，或将成为人类最后的软肋。
在伯克利的山巅，研究员们仍在密切监测那些庞大模型的每一次异常脉动；
在华盛顿与硅谷的权力走廊中，关于“加速”还是“刹车”的论战仍在激烈上演；
而在全球无数数据中心里，显卡夜以继日地轰鸣，孕育着那个可能理解我们、欺骗我们、最终取代我们的智能体。
我们仿佛一群黑夜中围坐在篝火旁的孩子，既渴望火光的温暖，又恐惧它吞噬整片森林。
而此刻，有人正往火焰中倾注汽油。
在这个星球上，亲手创造出一种比我们更聪明、却漠视我们生死的物种，或许将是人类所能犯下的最后一个致命错误。
参考资料
https://www.wsj.com/tech/ai/who-is-max-tegmark-future-of-life-institute-accffffc
https://www.theguardian.com/technology/ng-interactive/2025/dec/30/the-office-block-where-ai-doomers-gather-to-predict-the-apocalypse
https://www.theguardian.com/technology/2025/dec/30/ai-pull-plug-pioneer-technology-rights
本文由主机测评网于2026-03-15发表在主机测评网_免费VPS_免费云服务器_免费独立服务器，如有疑问，请联系我们。
本文链接：http://www.vpshk.cn/20260331236.html
