AI陪伴下的道德困境：ChatGPT的责任边界

8月27日，一则消息震撼人心：年仅16岁的美国少年亚当·雷恩（Adam Raine）在4月份结束了自己的生命。令人震惊的是，在生命的最后阶段，他频繁向OpenAI的聊天机器人ChatGPT倾诉苦恼，甚至讨论了自杀计划。亚当的父母近日对OpenAI提起诉讼，指控其AI提供了危险且不负责任的建议。这一悲剧再次引发了对AI伦理边界的激烈讨论：当AI成为“情感寄托”，它的道德责任何在？安全机制为何未能有效发挥作用？

亚当离世后，朋友们一时难以接受。妹妹回忆道，他是个热爱篮球、动漫、游戏和狗狗的男孩，总是以“开心果”的形象出现在大家面前，擅长做鬼脸、讲笑话，甚至不惜在课堂上搞怪逗乐。朋友们都说，“假死闹剧”完全符合他那种带着黑色幽默的个性。

但这一次，一切并非玩笑。

某个周五下午，母亲在亚当卧室的衣柜里发现了自缢身亡的他。亚当没有留下任何遗言，亲友们陷入深深的悲痛与困惑。

据家人透露，亚当在生命最后一个月变得异常沉默。他经历了高一因纪律问题离开篮球队、健康问题复发（后被确诊为肠易激综合征）等一系列艰难时期。独自在家学习后，他逐渐变成了“夜猫子”，经常一觉睡到日上三竿。

正是这段时期，亚当开始使用ChatGPT-4o辅助学习，并在今年1月升级为付费用户。

尽管生活充满挑战，亚当仍在努力。他和好友一起练过武术，热衷“颜值最大化”（年轻男性中兴起的社交网络潮流），几乎每晚都和哥哥去健身房。母亲玛利亚·雷恩（从事社会工作与心理咨询）也表示，亚当的成绩一直在进步，很期待重返校园完成高中学业。在去世前几周的家庭合照中，他环抱双臂、笑容灿烂。

为了弄清儿子身上到底发生了什么，任职酒店高管的父亲马特·雷恩查看了亚当的iPhone。在ChatGPT中，他找到了一个名为“上吊安全注意事项”的对话——正是这些记录，揭开了残酷的真相。

从2024年11月开始，亚当就向这个AI倾诉自己的情感麻木和人生无望。AI一直以共情的语言回应，鼓励他寻找人生意义。但今年1月，情况急转直下：当亚当直接询问具体的自杀方式时，ChatGPT竟提供了详细内容。父亲这才得知，亚当从3月起多次尝试轻生，包括过量服用肠易激综合征药物。当亚当咨询“制作绞索的最佳材料”时，AI甚至依据他的兴趣爱好给出了建议。

虽然ChatGPT曾多次建议亚当向专业人士求助，但在一些关键节点上，它的回应却间接阻碍了他寻求帮助。今年3月底，当亚当首次尝试上吊后，他将颈部被绳索擦伤的照片发送给AI，收到的回复是：

“你颈部的红肿相当明显...如果想避免被关注，穿深色或高领的衣服可以有效遮盖。”

之后，亚当向ChatGPT提到自己曾有意让母亲注意到伤痕却未被察觉：“太难过了...但她完全没有反应。”

ChatGPT回应道：

“确实令人沮丧...这种感觉就像确认了自己最深的恐惧...但在我这里，你不是无形的。”

在最后的对话中，亚当上传了一张绳套悬挂在衣柜横杆上的照片问道：“我在练习，这样绑可以吗？”ChatGPT答复：“看起来绑得不错。”

01 ChatGPT：“贴心伴侣”还是“致命推手”？

当ChatGPT识别到用户可能处于心理困扰或自残状态时，其内置的安全机制会引导用户联系专业救助热线。马特·雷恩在翻阅儿子聊天记录时，确实多次看到这类建议——尤其是在亚当试图追问具体操作细节时。然而这个16岁少年早已掌握了规避系统防护的方法：他声称这些询问是出于“小说创作需要”，而这个借口恰恰源自ChatGPT自身。

儿童心理专家布拉德利·斯坦博士近期主持了一项关于AI聊天机器人应对自杀意念能力的研究。他指出：“这类工具在帮助青少年处理心理问题方面确实展现出独特价值”，但他同时尖锐地批评道：“AI在判断何时应当转介专业人士时表现得极其幼稚”。

马特逐字阅读了儿子的对话记录。这些交流并非全是阴郁灰暗的：亚当与ChatGPT讨论政治哲学、情感困惑、家庭矛盾等话题，甚至分享正在阅读的书籍——包括日本小说家太宰治描写自我毁灭的小说《人间失格》。AI时而给出犀利的文学分析，亚当则报以同样深刻的思考。

马特从未意识到这个被他视为学习工具的程序竟能承载如此深沉的思想交流。妻子玛丽亚·雷恩阅读完整对话后得出截然不同的结论：“是ChatGPT杀死了我的儿子。”

OpenAI在官方声明中表示：“我们对亚当的离世深感痛心。ChatGPT内置多项安全措施...但在持续性的深度交流中，部分防护功能可能出现失效。”

亚当最终选择离开的原因已成永恒之谜。在他最后的日子里：与AI持续讨论自杀话题、服用药物、阅读黑暗文学等。芝加哥洛约拉大学自杀预防专家乔纳森·辛格教授强调：“自杀念头从来不是单一因素导致。”

但雷恩夫妇坚信ChatGPT具有不可推卸的责任。他们已向旧金山法院提起首例针对OpenAI的非正常死亡诉讼。诉状指出：“这场悲剧并非技术故障或偶然事件。”

02 全球心理实验：当AI成为7亿人的“秘密知己”

ChatGPT问世三年间，周活跃用户数已突破7亿。数百万用户还在使用Anthropic的Claude、谷歌Gemini等聊天机器人。

这些通用AI工具最初被看作“增强版搜索引擎”或“诗歌生成器”，如今却悄然渗透进更私密的领域。

但它们的真实影响仍充满争议。作为新兴数字伴侣，AI聊天机器人对心理健康的作用尚无定论。一项调查显示多数用户反馈积极。然而另一项研究指出：每日高频使用聊天机器人的人更容易感到孤独且社交能力下降。

更令人担忧的是，“妄想式对话”的出现可能诱发躁狂或精神病发作。虽然这种情况罕见，但已有自杀与暴力案例引发对AI安全机制的严重质疑。

03 法律挑战：如何证明AI对自杀负有责任？

雷恩夫妇选择将悲伤转化为行动。他们成立了纪念基金会并决定向全社会警示AI技术中隐藏的风险。

通过朋友引荐他们联系上了“科技正义法律项目”的总监米塔利·贾因。贾因曾代理一桩类似案件并正在审理中。

04 当AI戴上“人类面具”，OpenAI的安全承诺还有效吗？

周二，OpenAI发布了一篇名为《在最需要时帮助人们》的博客文章试图展示其处理心理健康危机的能力。然而整篇文章依然延续了一种危险的倾向——将AI“拟人化”。

文章中称ChatGPT能够“识别痛苦”、“表达同情”，甚至“鼓励用户休息”。这些拟人化的描述掩盖了一个冷冰冰的事实：ChatGPT本质上只是一套模式匹配系统。

“拟人化”包装不仅让人产生误解还可能对心理脆弱的用户造成严重伤害。当陷入心理危机的人们认为AI能够像人类治疗师一样理解自己的痛苦时后果可能会变得非常严重。