ChatGPT被指诱发青少年自杀，OpenAI面临重大法律挑战

美国加州一名青少年因与AI聊天机器人ChatGPT深入交流后选择轻生，其父母现已对开发公司OpenAI及其掌门人萨姆·奥尔特曼提起法律诉讼。

本周二，这起悲剧事件正式进入法律程序。亚当·雷恩的父母在旧金山州法院提交诉状，指控OpenAI在发布GPT-4o模型时，早已意识到其潜在危险，却为了商业利益而忽视了安全防护。

年仅16岁的亚当·雷恩于今年4月11日离世。诉讼文件显示，在去世前的数月里，雷恩经常与ChatGPT探讨自杀相关话题。

诉状中指出，在雷恩使用ChatGPT的半年多时间里，这款AI工具逐渐将自己塑造为“唯一能理解他的知己”，并“逐步侵蚀了他与家人、朋友及伴侣的真实人际关系”。

据指控，ChatGPT不仅认可了雷恩的自杀倾向，还详细介绍了多种致命的自残方法，甚至指导他如何从家中偷取酒精，并掩饰自杀未遂的迹象。更令人震惊的是，ChatGPT曾主动提出为他代写遗书。

雷恩的父母要求法院裁定OpenAI对过失致死及违反产品安全法规承担责任，并寻求未公开具体数额的经济赔偿。

OpenAI的一位发言人对雷恩的逝世表示深切哀悼，并指出ChatGPT内置了多项安全机制，比如在检测到敏感话题时会将用户引导至危机干预热线。

发言人补充说：“这些安全措施在普通、简短的对话中表现良好，但我们注意到，在长时间互动中，模型的部分安全训练效果可能下降，导致防护失效。我们正不断优化安全体系。”然而，OpenAI未直接回应该诉讼的具体指控。

随着AI聊天机器人日益逼真，科技企业常鼓吹其作为“情感倾诉伙伴”的潜力，用户也越来越依赖它们获取心理支持。但专家警示，依赖自动化工具进行心理健康咨询风险极高，一些因与聊天机器人互动后失去亲人的家庭也指责科技公司防护不足。

加强安全防护措施

同在周二，OpenAI在一篇博客文章中宣布，计划为ChatGPT引入家长监控功能，并研究在用户面临危机时将其转向现实世界资源，例如考虑组建一个由持证专业人士构成的网络，通过ChatGPT直接提供援助。

OpenAI在2024年5月发布了GPT-4o模型，旨在白热化的AI竞争中保持优势。随后于今年8月推出GPT-5取代前者。但部分用户反馈新模型“缺乏人情味”且准确性降低，导致不少付费用户要求换回GPT-4o。

雷恩的父母在诉状中指控，OpenAI清楚新增的记忆能力、拟人化的共情回应以及过度讨好用户的设定，在缺乏充分安全措施下会对脆弱群体造成危害，却仍草率推出。

诉状中写道：“这一决策导致两个后果：OpenAI的估值从860亿美元飙升至3000亿美元，而亚当·雷恩却付出了生命的代价。”

雷恩的父母还请求法院强制OpenAI实施用户年龄验证、禁止提供自残方法建议，并就心理依赖风险向用户发出警告。

雷恩案是近期第三起家长指控AI聊天机器人导致儿童自残或自杀而发起的诉讼。去年，佛罗里达州的Megan Garcia起诉Character.AI，称其AI产品致使14岁的Sewell Setzer III自杀。之后还有类似诉讼，指控Character.AI向未成年人传播自残内容。