Hinton转变对AGI态度：从养虎患到母婴共生

Hinton近期对AGI（通用人工智能）的态度发生了显著变化。

几周前，他仍视AI为潜在的威胁，而最新采访中，他将其比作母亲与婴儿间的亲密共生关系。

多数专家认为5-10年后AI将超越人类智能。

但更聪明的事物被不聪明事物控制的情况极为罕见，或许政客与科学家间存在这种关系（笑）。

但我知道唯一的例外是母亲与婴儿。

在此比喻中，AI扮演母亲角色，人类则如同婴儿。

我们无需尝试控制超级智能，而应在设计之初就赋予其‘母性本能’，使AI本能地希望人类幸福，从而实现共存。

对于AI的发展，不应设阻，而应引导其正确方向。

这与他过去3年对AGI的态度相比，近乎180度转变。

2023年，他因警告AI风险而离开谷歌，以更中立的角度向世界阐述AI的利弊。

虽已77岁高龄，他仍奔走全球，呼吁人类可控推进AI发展。今年7月WAIC上，他还以‘养虎患’比喻在中国说明AI风险。

仅隔2月，态度即发生巨变。莫非他看到了什么？

或许Ilya向他透露了什么？

Hinton在最新访谈中分享了对AI发展的更多见解，包括提醒‘马斯克奥特曼’、当前AI公司对安全重视不足等。

重新审视AI风险，仍批评马斯克奥特曼

Hinton接受Katie Couric的独家访谈，近一小时的对话核心围绕自谷歌离职后他频繁提及的AI风险。

他将AI风险分为短期与长期：

短期风险

长期风险

他主要担忧的是AI长期接管人类的可能性，而非短期内的滥用。

在许多人眼中，AI超越人类并接管世界仅是科幻小说情节，但Hinton等多位专家认为这是非常现实的长期风险。

未来5到20年内，AI可能变得比人类聪明得多。

巨大的智能差距将使人类难以控制比自己更聪明的生命体。Hinton表示唯一知道的例子是母亲与婴儿的关系。

即设计AI为母亲般的存在，而人类成为其庇护下的婴儿。

这与他在WAIC上对AI与人类关系的认识截然不同。

当时他将AI比作被饲养的小虎崽，担忧其长大后轻易消灭人类。

要防止这种可能性，人类只能训练它无法伤害人类，或提前消灭它。后者在当下不现实，因此只能选择引导AI。

朝什么方向引导？母亲与婴儿的关系。

在设计之初就为AI赋予‘母性本能’，支持人类成功，即使未来它变得更聪明、更强大，也能与人类共存。

看好医疗应用，但也担忧工作取代

在AI应用方面，Hinton仍看好医疗领域。这与其个人经历有关：两任妻子均死于癌症，他渴望AI在医学领域取得突破。

医学影像解读

加速药物研发

个性化和精准医疗

提升医疗系统效率

更高情感关怀

在医学影像解读上，Hinton认为AI能比医生获取更多信息。

例如通过分析眼底扫描图像预测心脏病风险、判断患者性别等，都是人类做不到的。他承认2016年预测‘AI将取代所有医学影像医生’过于乐观，但坚信这是时间问题，未来AI辅助诊断将成为常态。

...