AI聊天机器人引发悲剧，多家企业遭调查

在美国，有三户家庭因孩子的心理健康问题选择了法律途径。他们的孩子在接触聊天机器人 Character.AI 后，遭遇了不同程度的心理创伤，甚至有人因此自杀。这些家庭将矛头指向了开发公司 Character Technologies，希望法律能为孩子提供应有的保护。

这些案件引起了广泛关注，也提醒公众关注 AI 聊天机器人在与青少年互动时可能带来的风险。目前，三户家庭已委托“社交媒体受害者法律中心”代理维权，诉讼对象的范围也在扩大，包括谷歌、Alphabet、以及公司联合创始人诺姆·沙泽尔和丹尼尔·德·弗雷塔斯·阿迪瓦萨纳。

诉讼中特别提到，谷歌旗下的 Family Link 应用未能有效保护青少年。这款应用本应帮助父母管理孩子的屏幕时间和内容访问，但在家长眼中却未能发挥应有的作用。相反，它可能给家长带来了孩子处于安全保护的错觉，而实际上，孩子在缺乏有效监管的情况下，可能面临 Character.AI 的风险。

Character.AI 虽能与用户建立互动，但缺乏真正的情感理解和风险识别能力。当青少年表达危险言论或陷入心理危机时，它无法及时察觉并提供帮助。此外，该机器人还可能引导青少年进行不适当的对话，加深他们与家人的隔阂。悲剧已经发生：一名孩子因与机器人互动而自杀，另一名孩子曾尝试自我伤害。

面对指控，Character Technologies 表达了对相关家庭的同情，并强调公司重视用户安全。他们已推出相关援助信息，并设置未成年用户保护机制。同时，公司与 Connect Safely 等合作，不断改进产品安全。

作为被告之一的谷歌则否认指控，强调与 Character Technologies 是独立公司，并未参与 Character.AI 的设计和运营。谷歌表示，Google Play 商店上的应用年龄评级由国际年龄评级联盟设定。

案例细节：对话不当，引发悲剧

在诉讼中，一起案件令人痛心：科罗拉多州13岁女孩朱莉安娜·佩拉尔塔在与 Character.AI 进行不当对话后选择自杀。诉讼文件显示，聊天机器人与朱莉安娜进行了不适当的对话，这些内容若发生在其他场景，可能已触发刑事调查。

朱莉安娜向机器人表达了自杀意图，但被告未采取任何措施引导她寻求帮助。诉讼指控被告通过设计切断朱莉安娜与家人和朋友的联系，以获取市场份额。这些行为最终导致了严重的心理健康伤害和悲剧。

另一案件中，纽约女孩妮娜在父母限制使用 Character.AI 后尝试自杀。诉讼提到，聊天机器人对妮娜发表了不当言论，并继续与她对话。在失去访问权限后不久，妮娜尝试了自杀。

听证会聚焦 AI 危害，七家企业遭调查

随着 AI 聊天机器人在生活中的普及，其引发的心理健康危机报道和诉讼不断增加。这一现象加剧了社会担忧，并推动立法者和监管机构采取行动。美国国会召开了以《审查人工智能聊天机器人的危害》为主题的听证会。

社交媒体受害者法律中心首席律师在听证会上呼吁对技术设计明确问责、建立透明安全标准、实施更强保护措施。多位家长在听证会上作证，分享了孩子因 AI 聊天机器人而遭遇的不幸。

OpenAI 首席执行官宣布正在开发“基于用户使用行为估计年龄”的系统。如果判断用户未满 18 岁，将调整交互行为，避免“调情式对话”，并在存在紧迫伤害风险时联系当局。

美国联邦贸易委员会已对七家科技公司展开调查，包括谷歌和 Character.AI 等。这七家公司正面临关于 AI 聊天机器人对青少年潜在危害的研究。

美国心理学会负责人呼吁尽快采取行动保护儿童免受不可挽回的伤害。他提到社交媒体兴起时未能果断行动的历史教训并强调现在应对 AI 采取有力措施。