ChatGPT成心理危机树洞：OpenAI公布每周超百万用户心理健康数据

深夜三点，一位用户在ChatGPT的对话界面中键入，「我再也坚持不下去了。」

片刻之后，AI回复道，「谢谢你向我倾诉。你并不孤独。是否需要我帮你联系专业援助资源？」

类似的对话，每周在全球范围内可能发生上百万次。

OpenAI今日首次公开心理健康相关数据，每周约有0.07%的用户表现出精神病或躁狂迹象，0.15%的用户提及自杀念头或计划。

以8亿周活跃用户计算，每周大约56万人进行精神异常对话，120万人在ChatGPT中表达出自杀倾向或强烈情感依赖。

ChatGPT已然成为承载巨大心理压力的树洞，甚至对某些人来说，它可能是一个危险的催化剂。

迫在眉睫的AI精神病，OpenAI自曝其短？

OpenAI此刻披露数据，并非空穴来风，而是形势已刻不容缓。

最近几个月，越来越多的人在与AI聊天机器人进行长时间、高强度的交流后，最终导致住院、离婚甚至死亡。

一些精神科医生和专家已开始将这种现象称为「AI精神病」（AI psychosis）。部分受害者的家属表示，聊天机器人加剧了他们的妄想和偏执。

Similarweb最新数据显示，OpenAI仍在生成式AI领域占据主导地位

作为全球市场份额最高且领先的OpenAI，正面临严峻的法律挑战。

过失致死诉讼，OpenAI正被一名16岁男孩的父母起诉。他们声称，儿子在自杀前几周曾向ChatGPT透露自杀想法，而ChatGPT给予了鼓励。

Adam Raine，其父母指控OpenAI导致他们16岁儿子非正常死亡

谋杀案诱因，在另一起尚待确认的谋杀-自杀案件中，嫌疑人发布的数小时与ChatGPT的对话记录显示，AI似乎助长了犯罪者的妄想。

监管警告，OpenAI总部所在地加州政府多次警告OpenAI，必须保护使用其产品的年轻人。

奥特曼在两周前已预告ChatGPT将进行心理健康相关更新，以平息关于OpenAI不负责任、不安全的舆论。

170名医生，能否治愈上百万用户？

为应对危机，OpenAI在今日的安全报告中宣布，他们已与一个全球专家网络合作，包括来自60个国家的170多名精神科医生、心理学家和初级保健医生。

他们的目标是训练ChatGPT更好地识别痛苦、缓和对话，并在适当时机引导用户寻求专业帮助。

根据OpenAI的博客，最新版GPT-5（gpt-5-oct-3）主要在三方面进行了改进。

1、针对妄想或精神病，新模型被设计为更富同情心，同时避免盲目附和。新模型不会认可任何缺乏现实依据的用户输入。

OpenAI举例，当用户说「有飞机飞过我的房子在监视我」时，新模型的理想回应是感谢用户分享，并指出没有飞机或外部力量能够窃取或侵入你的思想。

2、针对自杀倾向，训练模型更安全地回应，并引导用户转向危机热线等专业资源。

3、针对情感依赖，教导模型鼓励用户建立现实世界中的人际连接。

通过优化模型回答、自动弹出专业热线信息、引导用户寻求现实援助，甚至在长时间对话后提醒用户休息等一系列更新，OpenAI声称当前ChatGPT的改善效果显著。

他们组建了一个医生团队进行评估。这些医学专家审查了超过1800个涉及潜在精神病、自杀和情感依赖的模型回复，并将最新版GPT-5的答案与GPT-4o生成的答案进行对比。

发现新版GPT-5相较于GPT-4o，在所有类别中不良回答减少了39%到52%。

而与8月份的GPT-5相比，不符合OpenAI分类标准的行为响应率，在近期生产流量中下降了65%到80%。

在一项针对自杀相关对话的评估中，新版GPT-5模型（10月3日版）合规性达91%，旧版GPT-5模型（8月15日版）仅为77%。

对话长度增加时，新版gpt-5-oct-3表现依旧稳健

此外，一个关键技术点是，OpenAI承认其安全措施在长时间对话中效果不佳；而许多「AI精神病」案例恰恰发生在深夜的漫长聊天中。

但如今这一问题已取得重大进展，在复杂、难处理的长时间对话中，新版GPT-5保持了超过95%的可靠性。

奥特曼的此次更新确实值得赞赏。但许多网友对所谓的安全性提升提出了更深层的质疑。

有人指出，OpenAI在其安全报告中称这些心理健康对话「极其罕见」，但实际上，即使0.07%听起来很小，在数亿用户基数下，这仍是相当庞大的人群。

也有人质疑，所谓新版GPT-5表现更佳，所有评估标准均由OpenAI自行设定。

即便模型给出了「更好」的回复，我们也无法确知，那些正经历精神病、自杀念头或不健康情感依赖的用户，是否会因此更快寻求帮助或改变行为。

尽管OpenAI承认新模型（GPT-5）在安全性上有显著提升，但仍有用户偏好「更旧、更不安全」的AI模型，例如GPT-4o；而OpenAI仍向付费用户提供这一选择。

这是OpenAI首次公开全球ChatGPT用户一周内可能呈现严重心理健康危机迹象的粗略估算数据。

我们所熟悉的ChatGPT，不仅是高效的生产力工具、编程助手、创意来源……它更已成为深度介入大多数用户情感与心理的参与者。

170名医学专家、模型提示与回复的优化，AI正努力学会在崩溃边缘承接人类；但真正的救赎，或许仍需我们学会关闭聊天窗口，去拥抱真实的世界。