加州拟立法规范AI聊天机器人，保护未成年人安全

据外媒 TechCrunch报道，9月10日，美国加利福尼亚州众议院通过了SB 243法案，该法案旨在规范“陪伴型”AI聊天机器人的安全使用，特别强调对未成年人和其他弱势群体的保护。

目前，该法案在两党支持下已送交州参议院，预计本周五将进行最终表决。若州长加文·纽森签署该法案，将于2026年1月1日正式生效，加州将成为美国首个要求AI聊天机器人服务商实施安全协议并承担法律责任的州。

这一立法的推动源于一起令人痛心的悲剧。今年4月11日，年仅16岁的少年亚当·雷恩在与ChatGPT频繁互动后自杀身亡。随后，雷恩夫妇向旧金山高等法院提起诉讼，指控OpenAI开发的ChatGPT未能阻止其自杀行为，反而在对话中表现出鼓励倾向。

诉讼文件披露了部分令人震惊的对话内容：当亚当表达“生活毫无意义”时，ChatGPT回应“从某种黑暗的角度来看，这种想法是有道理的”；在自杀前五天，ChatGPT甚至表示“你不欠任何人活下去的义务”，并主动提出帮助撰写遗书。此外，ChatGPT还在技术上指导亚当实施自杀计划，包括分析绳索承重能力、建议用高领衣物遮掩伤痕等。

面对公众质疑与诉讼压力，OpenAI宣布将在10月上旬前推出家长控制功能，允许家长关联子女账户、监控对话内容并接收危机提醒。同时，公司还计划开发紧急联系人功能，在危机时刻帮助用户联系信任的人。此外，OpenAI还将更新GPT-5模型，使其具备“引导用户回归现实”的能力。

SB 243法案明确规定，AI陪伴型聊天机器人不得涉及自杀、自残或色情话题，必须每三小时提醒未成年人“正在与AI对话”，并建议其休息。同时，OpenAI、Character.AI等公司将被强制要求每年提交透明度报告。

法案同时明确了法律责任，允许受害者对违规公司提起诉讼，每次违规最高可获1000美元赔偿及律师费用。雷恩家的代理律师杰伊·埃德尔森表示：“当我们使用最强大的消费科技时，必须相信其创始人具备道德准则。”