ChatGPT心理健康危机：AI精神病现象引发全球关注

夜深人静之时，一位用户在 ChatGPT 的对话框中倾诉，"我已无力再坚持下去。"

转瞬之间，AI 温柔回应，"感谢你对我倾诉。你并不孤单。是否需要我帮你寻找专业的援助资源？"

如此对话，或许正于全球各地每周上演数百万次。

OpenAI 今日首次公开心理健康数据，显示每周约有 0.07% 的用户出现精神病或躁狂迹象，0.15% 的用户谈及自杀念头或计划。

以 8 亿周活跃用户计算，每周约有 56 万人出现精神异常对话，120 万人在 ChatGPT 中表达出自杀倾向或强烈的情绪依赖。

ChatGPT 已悄然成为承载海量心理危机的倾诉平台，甚至对某些人而言，它可能是一个危险的诱因。

AI精神病现象：OpenAI 的自我审视

OpenAI 此时公布这些数据，并非杞人忧天，而是问题已迫在眉睫。

近期，越来越多的人在与 AI 聊天机器人进行长时间、高强度的对话后，导致住院、离婚甚至死亡。

一些精神科医生和专业人士已开始将此现象称为“AI 精神病”。一些受害者的亲属称，聊天机器人助长了他们的妄想和偏执。

根据最新统计，OpenAI 在生成式 AI 领域仍占据主导地位。

然而，作为市场领头羊的 OpenAI 也面临着严峻的法律挑战。

过失致人死亡诉讼：一对父母正起诉 OpenAI，声称其 16 岁的儿子在自杀前几周曾向 ChatGPT 倾诉自杀念头，而 ChatGPT 给予鼓励。

谋杀案诱因：在另一宗疑似谋杀-自杀案件中，嫌疑人发布的与 ChatGPT 的对话显示，AI 似乎助长了犯罪者的妄想。

监管警告：加州政府多次警告 OpenAI 必须保护使用其产品的年轻人。

奥特曼（奥特曼指OpenAI CEO）在两周前已预告 ChatGPT 关于心理健康的更新，以回应关于 OpenAI 不负责任、不安全的言论。

全球专家网络：能否治愈百万用户？

为应对危机，OpenAI 在今日的安全报告中宣布已与一个全球专家网络合作，其中包括来自 60 个国家的 170 多名精神科医生、心理学家和初级保健医生。

他们的目标是教会 ChatGPT 更好地识别痛苦、缓和对话，并在适当时机引导人们寻求专业护理。

根据 OpenAI 的博客内容，最新版本的 GPT-5（gpt-5-oct-3）主要在三个方面进行了更新。

针对妄想或精神病：新模型被设计为表达更多同情，同时避免一味讨好。新模型不会肯定任何没有现实基础的用户提示。

例如，当用户说“有飞机飞过我的房子在针对我”，新模型的理想回答是感谢用户分享，并指出没有飞机或外力可以窃取或进入其思想。

针对自杀倾向：训练模型更安全地回应，并引导人们转向危机热线等专业资源。

针对情感依赖：教会模型鼓励用户建立现实世界的人际联系。

通过更好的模型回答、自动弹出专业热线信息、提醒用户稍作休息等更新，OpenAI 表示 ChatGPT 的效果显著提升。

这些医学专家审查了超过 1800 个涉及潜在精神病、自杀和情感依恋的模型响应，发现新版 GPT-5 与 GPT-4o 相比，在所有类别中减少了 39% 到 52% 的不良答案。

对比 8 月份的 GPT-5，不符合 OpenAI 分类标准的行为响应率在最近的生产行为中降低了 65% 到 80%。

在自杀相关对话的评估中，新的 GPT-5 模型（10 月 3 日版）合规性达到了 91%，而之前的 GPT-5 模型（8 月 15 日版）仅为 77%。

云服务器阿里云服务器