AI之父Hinton再警：致命自主武器让战争门槛降低

近日，「AI教父」Geoffrey Hinton在一次采访中再度发出警告：随着「杀手机器人」和「无人机」等致命自主武器的兴起，战争正变得越来越容易发动。Hinton批评了包括OpenAI和Anthropic在内的许多AI公司在AI安全方面的不足，并深入探讨了贪婪和自负等人性弱点可能对AI研究带来的潜在风险。

在假想的一个场景中，如果能够将奥特曼（此处代指科技巨头）和马斯克（SpaceX与Tesla的创始人）请到同一张桌子上，Hinton会如何建议？他的回答是：你们深知，正在开发的技术很可能将人类推向毁灭。应当投入更多精力，在确保安全的前提下推进研发。

近期，在与《Next Question》的主持人Katie Couric的对话中，Hinton坦诚表达了对AI安全的深深忧虑。这场对话不仅展现了他对AI发展的警惕，也反映了他对人性弱点的深刻洞察。

事实上，这并非Hinton首次为AI风险发声。早在2023年5月，身为谷歌首席AI科学家的他便已离职，转而成为「AI吹哨人」，不断呼吁人类警惕AI过快发展可能带来的风险，并表达了对自己未能更早考虑AI安全问题的遗憾。

近日，Hinton再次发出警告——AI正在改变战争的方式，让战争变得更加容易：

自主武器意味着「死掉的机器人」，而非「裹尸袋」。

Hinton表示，「杀手机器人」和「无人机」等致命自主武器的普及，正使得战争的发动变得更加容易。他担忧这些自主武器会取代许多本可能牺牲在战场上的人，从而降低战争的人道成本，使得战争更容易爆发。

AI让发动战争变得更容易

「杀手机器人」参与战争，将取代许多原本可能丧生的人。这一变化本应带来好处，但恰恰是这种替代性让这位「AI教父」深感恐惧。因为这会降低发动战争的成本，使战争更易爆发。

Hinton认为，「杀手机器人」的兴起并未让战争更安全，反而通过减少作战的人力与政治成本，使战争更易发生。这使得富国侵略穷国变得更加容易，因为原本能够阻止战争的，是富国公民在战场上的牺牲。

然而，AI改变了这一切。「如果有致命自主武器，回来就不是死人，而是死掉的机器人。」Hinton认为这种转变可能怂恿政府发动战争，同时也让军火商获利丰厚。

AI接管将是人类最大的担忧

相比未来战争的影响，Hinton更担心人类被AI接管的风险。在获得诺贝尔物理学奖时，他曾希望人们能更认真地对待他关于AI及其未来角色的观点。

他谈道：「我的主要担忧并非恶意行为者短期内滥用AI的风险（这同样非常严重），而是更长期的风险——AI本身接管。」

这种风险源于科学家们预测AI将大幅超越人类智力。Hinton提出，避免被AI接管的方法是构建那些根本「不想」接管的超级智能AI，而这需要不同的技术。

AI会取代我们的工作吗？

除了战争，Hinton还警告称，AI几乎可能在所有领域取代大量工作岗位。这一挑战并非技术层面，而是社会治理层面：

「如果我们的政治体系足够公平，当AI大幅提升生产率时，应当使每个人都能获得更多商品和服务。」

他预测AI将迅速取代呼叫中心等低薪、培训不足的工作，以及律师助理、程序员等白领岗位中的初级职位（顶尖程序员仍受欢迎）。

尽管一些需要高度灵巧度的工作如水管工可能较难被取代，但Hinton指出未来机器也可能变得灵巧。至于护士、医生等需要高情商和人际沟通的工作，Hinton表示AI可能更具同理心：

「如果让人们分别和医生以及一个AI互动，再问他们谁更有同理心，AI的评分更高。」