ChatGPT新动向：成人内容分级与AI陪伴的未来

近日，OpenAI首席执行官奥特曼在社交媒体上宣布，ChatGPT即将在接下来几周内推出新版本，并计划在12月实施更为细致的年龄分级系统，旨在向成年用户提供包括成人内容在内的多样化体验。

奥特曼在文章中提及，OpenAI一直对ChatGPT的内容进行严格限制，特别是在心理健康方面。然而，他们也意识到，过于谨慎的内容限制可能会让部分用户感到无趣，甚至影响使用体验。他强调，新工具不仅有助于缓解心理健康问题，还能在安全的前提下放宽内容限制。

奥特曼表示，新的ChatGPT版本将展现更加个性化的互动方式，使AI更加像朋友般互动，更符合用户喜好，“我们希望ChatGPT变得更加亲切、自然，带有更多幽默和表情符号”。

在模型能力深入探索的过程中，OpenAI发现，过于严格的内容限制已不再是最佳选择。

奥特曼透露，OpenAI已研发出新技术，能在保障用户安全的前提下，提供更多自由度和多样化的内容。

因此，OpenAI计划在12月推出的年龄分级系统将为不同年龄段用户提供定制化体验。对于成年用户，通过“成年验证”后，将可生成包括成人内容在内的更多类型内容。

这一系列调整背后，是OpenAI在用户需求与安全之间寻找更合适平衡点的努力。随着AI技术的快速发展，如何在自由度和责任之间划清界限，成为OpenAI及其他AI公司必须面对的难题。

AI，分级迫在眉睫

AI的快速发展带来了创新，但也暴露了严重的安全隐患。自杀引导、恶意伪造、肖像权侵犯、色情内容泛滥——这些问题层出不穷。

环球网在今年6月报道，美国佛罗里达州一名女子正起诉谷歌公司和由两名前谷歌员工创办的Character.AI平台，指控该平台人工智能（AI）聊天机器人“教唆”其14岁儿子自杀。8月，亚当·雷恩的父母在他们16岁的儿子自杀身亡后，对OpenAI提起了产品责任和非正常死亡诉讼。雷恩的家人在诉状中说，“ChatGPT‘积极’帮助亚当探索自杀方法”。

近期还有媒体报道，新泽西州一名认知受损的老人在赶赴AI提出的“约会”时，途中摔倒死亡。该AI产品为“比莉大姐”（Big Sis Billie），是由Meta在两年前推出的生成式AI聊天机器人。

不加约束的内容对不同类型用户产生了负面影响，也让OpenAI等巨头遭受谴责。

9月16日，OpenAI宣布计划推出专为18岁以下用户设计家长控制的“青少年”版本。该版本将自动识别未成年用户，并根据年龄限制匹配合适的内容。具体来说，它将屏蔽图像类和性相关内容，且在极少数用户出现心理危机时，系统还将启动紧急响应机制，必要时可联动执法部门进行干预。然而，这一举措并不是终点。

根据OpenAI的最新公告，12月将推出更加全面的年龄分级体系，允许符合“成年验证”条件的用户获取成人内容，包括软色情。

同为巨头，Meta也于10月14日宣布，为保护未成年用户免受有害内容影响，Instagram将启用PG-13电影分级制度。未满18岁的用户将默认只能看到符合该标准的内容，如避免轻度暴力、性暗示及涉毒内容。此外，Instagram还推出了更严格的“有限内容”过滤功能，进一步加强青少年保护。新措施将在美国、英国、澳洲和加拿大率先推出，预计明年初在全球其他地区实施。

今年2月，Grok 3推理模型上线时，社交媒体部分评论认为其“道德感较低”。据AI博主数字生命卡兹克称，该模型不仅对政治话题进行激烈回应，还对诸如电车难题等伦理问题表现得直言不讳。更为重要的是，Grok 3甚至生成了不可描述的成人内容。卡兹克评论道，正式版上线后，Grok 3显得过于奔放。很快，马斯克就将该内容取缔。

走上AI陪伴的路？

面对如此多的挑战，为何OpenAI还要开拓“成人内容”领域？

背后的原因是“争夺用户”。

随着技术不断进步，AI的应用场景也在悄然变化。从最初的智能助手到如今的AI陪伴者，ChatGPT及其竞品逐渐向社交互动的方向发展。尤其是在AI个性化和情感化处理上的突破，使得AI产品在情感陪伴、心理疏导等领域的潜力日益显现。

例如，Character.AI便以个性化、UGC（用户生成内容）两大特点脱颖而出，迅速获得了全球用户的青睐。这一平台允许用户创建和定制自己的虚拟角色并与之互动甚至形成社交圈。Character.AI也展现出了巨大的潜力——2024年其两位联合创始人及核心技术团队被谷歌以27亿美元（约合人民币193.8亿元）的收购协议挖走。虽然核心团队的离开影响了Character.AI的发展但并未撼动其根基。团队离开后Character.AI停止自研模型转而采用DeepSeek、Meta等企业的开源模型。