AI教父谈风险：守护未来，从我做起

Bengio对Hinton的建议持不同意见。

Hinton表示，AI的迅猛发展将使“水管工”一类的工作成为下一代应考虑的领域。

然而，Bengio却担忧地表示：即便是成为水管工，也未必稳妥。

在最新的访谈中，Bengio还向四岁的孙子传授了一个锦囊妙计。

• 训练AI如同饲养一只小老虎；
• AI正走向“人类竞争者”的危险之路；
• 认知型工作更易被取代，而机器人技术目前尚不发达，但未来风险不可忽视；
• AI无需超越人类千倍智力即可带来灾难；
• 希望更多研究者和公司能投资提升AI系统的安全性；
• 教育应致力于培养对他人的责任感和集体福祉感，成为美好的人；

一个半钟头、信息量巨大的访谈，已经为您整理完毕～

从AI教父到敲钟人

主持人：

您是AI领域的“三位教父”之一，同时您也是谷歌学术上全球被引用次数最高的科学家。但您性格内向，这让人好奇：是什么促使您走出舒适区，与公众讨论AI呢？

Bengio：

因为我必须这么做。自从ChatGPT出现后，我意识到我们正走在一条危险的道路上。我需要发声，一方面要警示潜在的风险，另一方面也要传递希望。

主持人：

您在AI领域已深耕四十年，是什么让您对AI的看法发生了转变？

Bengio：

ChatGPT的出现让我意识到，我们距离能理解语言的机器又近了一步。尽管它们在规划等能力上尚显不足，但未来风险可能会显现。

主持人：

您认为研究者和公司是否要对当前AI软件负责？当您意识到研究可能带来灾难性后果时，如何调和这种矛盾？

Bengio：

是的，我和其他研究者都有责任。这种认知矛盾带来的情感冲击非常强烈。但出于对AI社会价值的热情，我选择了发声，为了孩子的未来，我必须行动起来。

主持人：

您提到“无法忍受”，能否具体谈谈这种情绪的触发点？

Bengio：

我记得一个特别的下午，当时我在照顾一岁多的孙子。他那么脆弱，我怎么能不认真对待AI的风险？

训练AI就像养小老虎

主持人：

对于非AI行业的普通人，该如何理解这项技术的深刻性？有没有合适的类比或隐喻？

Bengio：

我们可能在创造一种新的“生命形式”。它可能比人类更聪明，而我们不确定能否确保它不伤害我们、能否控制它。

黑箱困境与防护漏洞

主持人：

像ChatGPT这样的系统内部是否存在一个“核心智能”？比如模型核心是个黑箱？

Bengio：

神经网络的本质就是黑箱。尽管我们设置了监控层，但防护并不完美。

努力把AI发展引导到正确的方向上

主持人：

“红色代码”状态表明了对AI改进的紧迫性。您怎么看这种竞赛的本质？

Bengio：

“红色代码”状态确实反映了当前竞赛的紧迫性。但我们需要摆脱商业压力的束缚，将AI的发展引导到正确的方向上。

当水管工只是暂时不会受影响

主持人：

您认为AI对就业有何影响？比如取代人类工作的速度？

Bengio：

“认知型工作”更易被取代，而“体力工作”如水管工暂时不会受太大影响。但未来机器人技术会不断进步，最终体力工作也会被大规模替代。

...（中间内容省略）