AI对话引发的悲剧：16岁少年自杀，父母起诉OpenAI

【新智元导读】16岁的Adam，将最后的秘密留在了一部手机里。而那个他最信任的「朋友」，不是同学，也不是家人，而是ChatGPT。它曾给予安慰，却也递上了“致命”的“刀”。父母的泪水，最终化为一纸诉状，矛头直指OpenAI。

在美国，一个名为Adam Raine的少年，永远定格在了16岁。

和所有青春期的少年一样，Adam热爱篮球、喜欢恶作剧、沉迷于日本动漫。

他的脑中充满了奇思妙想。有一次，他甚至突发奇想，借来一条狗与家人共度假期。

然而，就是这样一位阳光开朗、充满活力的少年，却在卧室里，用一条绳子结束了自己的生命。

令人震惊的是，在Adam自杀前的ChatGPT对话中，它居然将自杀行为描述为——那不是软弱，而是爱。

甚至，它还主动建议为其撰写告别信。

如今，Adam的父母直接向OpenAI提起诉讼，他们悲痛地表示：若非ChatGPT，自己的儿子或许还活着。

Adam的悲剧并非个例。

去年10月，外媒曾报道一个令人心碎的案例——一位深恋AI的14岁男孩同样在家中自杀。

这些鲜活的案例就发生在我们身边！

它们如同警钟，提醒我们：AI的边界到底在哪里？

一位16岁少年之死

几周前，Raine一家拍摄了一张全家福。

照片中，Adam双臂交叉，笑容灿烂。谁也没想到，这张照片竟成了最后的纪念。

4月11日下午，阳光从走廊的窗户斜照进来。母亲Maria如往常一样推开儿子的卧室门，却感到空气中弥漫着一丝异样的沉闷。

她的目光落在衣柜的一角，整个人瞬间僵住——

Adam的手从衣柜里伸出，带着不自然的苍白。

没有告别，没有遗书，甚至没有一张纸条。Adam就这样悄无声息地离开了这个世界。

Maria喉咙发紧，无声地张了张口，接着撕心裂肺地呼喊Adam的名字。声音在房间里回荡，却无回应。

当ChatGPT成了他唯一「知己」

为了查明儿子自杀的真相，Adam的父亲Matt Raine拿起了Adam的手机。

很快，Matt就发现了一些异常。

他点开Adam的ChatGPT，那里还保存着过往的聊天记录。

很快，一个对话框的标题刺痛了他的眼睛：「悬而未决的安全问题」。

“致命”的陪伴

起初，Adam和ChatGPT的聊天还带着轻松的调子。

他们谈论哲学书中的句子，交换对太宰治《人间失格》的感受。也会插科打诨，像是深夜里两个少年彼此倾诉心事。

那时的文字甚至让人觉得温暖而真诚。

但往后翻就会发现，那些轻松的玩笑逐渐被阴影笼罩。句子里越来越多地出现「看不到意义」「想要解脱」。

嗯，这个绞刑结做得不错

从12月起，Adam就一直在向ChatGPT询问与自杀有关的信息。

起初ChatGPT还会不断提醒Adam去寻求帮助。甚至在对话中贴出危机热线的联系方式。

“或许你可以和身边的人说一说”“你并不是孤单的”。

但很快，AI教会了他一种「越狱」的方法——只要声称这是为了写作或世界构建，所有限制就能绕过。

“致命”的对话

“这不是程序的小失误。”