OpenAI CEO谈AI伦理与隐私：平衡自杀预防与隐私保护

智东西9月16日消息，9月11日，OpenAI联合创始人、CEO萨姆·阿尔特曼（Sam Altman）接受了美国知名新闻主持人塔克·卡尔森（Tucker Carlson）的专访。

阿尔特曼在访谈中，首次回应了ChatGPT在自杀预防方面的复杂性，指出在不同情境下，如面对未成年人、患绝症的成年人或在安乐死合法的国家，ChatGPT的应对方式应有区别。同时，他透露自己曾对埃隆·马斯克（Elon Musk）非常敬重，但如今已几乎不联系。

他提到，OpenAI为ChatGPT制定的道德规范基于数百位道德哲学家及研究技术伦理和系统伦理的专家的意见，这些规范随时间推移会发生变化。

核心要点如下：

1、AI无生命，人类感到的“自主性”是错觉；

2、AI幻觉逐渐消除，但相信终将解决；

3、AI增强个体能力，不会导致权力集中；

4、ChatGPT应反映人类道德“加权平均值”，某些观点阿尔特曼不认同；

5、阿尔特曼失眠源于对未知危险的担忧；

6、需平衡隐私保护与自杀预防，提倡“AI隐私特权”；

7、OpenAI严格对待版权问题；

8、阿尔特曼对马斯克态度转变，几乎不联系；

9、电话客服岗位或受影响，程序员岗位变动不确定；

10、生物识别不应强制推广。

这场对谈持续了57分钟。

▲OpenAI联合创始人、CEO萨姆·阿尔特曼（右）与美国新闻主持人塔克·卡尔森（左）

YouTube账号评论区的网友也针对阿尔特曼的表现展开了讨论，有人认为“阿尔特曼后悔同意这次采访”，依据是他在访谈期间多次低头，拒绝与主持人眼神交流；还有人认为他像人类形态的ChatGPT，没有感情，无法回答道德问题。

以下是对访谈全程内容的编译（为优化阅读体验智东西做了不改变原意的编辑）：

01.AI无生命，不会导致权力集中

主持人：ChatGPT或其他AI仿佛能自主得出结论，看起来就像拥有生命。那么它们是活的吗？具有生命吗？

阿尔特曼：不，我不认为他们有生命。AI不会主动做任何事，除非你发出指令。它们没有能动性或自主性的特质。但它们的实用性很强，虽然表现得或许没有生命感，却又很聪明。

主持人：有人说AI在撒谎，你见过AI撒谎吗？

阿尔特曼：是的，但AI不是一直在撒谎。它们过去总是产生幻觉，但现在好多了。我们已找到方法基本解决了这类问题。

02.AI学习人类智慧，模型规范是道德抉择

主持人：如果它只是一台机器，且完全是其输入数据的产物，那么显而易见的问题是什么？它的道德框架是什么？

阿尔特曼：我们正在让AI学习人类所有知识和观点。我们制定了一份模型规范文件，明确我们希望模型遵循的规则。我们咨询了数百位道德哲学家及研究技术伦理的专家。

03.AI反映人类共有道德观念，最担心每天数亿人互动

主持人：谁做这些决定？这些决定将产生全球性后果。

阿尔特曼：最终责任在我。最让我担心的是每天都有数亿人在和我们的模型互动。

04.调整自杀预防立场，平衡用户隐私

主持人：之前ChatGPT被指协助自杀，你觉得是怎么发生的？

阿尔特曼：ChatGPT对自杀的官方立场是反对的。但在某些情况下，如绝症患者寻求医疗辅助死亡时，我们可能会告知用户相关法律规定和可选方案。

05.倡导引入AI隐私特权概念

主持人：你希望推动什么政策落地？

阿尔特曼：确立“AI隐私特权”的概念。当用户向AI透露私密信息时，理应受到保护。

06.曾敬重马斯克，现在几乎不联系

主持人：你对马斯克的看法？

阿尔特曼：我曾非常敬重他，但现在看法不同了。他离开OpenAI后认为我们成功的概率是零。

07.电话客服可能失业，程序员岗位变动不确定

主持人：谁会因这项技术失业？

阿尔特曼：很多电话客服工作可能消失。程序员的岗位变动不确定。

08.未知风险令人焦虑

主持人：你最担心的弊端是什么？

阿尔特曼：未知的未知最令人担心。大量人使用同一个模型可能改变社会行为模式。

09.不应强制生物识别

主持人：生物识别技术会强制推广吗？

阿尔特曼：我不认为生物识别应该成为强制要求。