AI潘多拉魔盒：成人内容生成与伦理挑战

互联网流传着一个诙谐的说法：“搞黄色是首要生产力”。从录像带到短视频平台，成人内容始终是新技术的试验场。

上世纪80年代，VHS录像带战胜画质更佳的Betamax，关键就在于成人内容制作商选择了VHS。进入互联网时代，成人网站成为在线支付和流媒体技术的先驱。如今，AI大模型领域又上演了这一幕。

在AI大模型的领域里，成人内容成了潘多拉的魔盒。

它意味着用户激增和收入攀升，但同样意味着监管风险、道德争议和品牌形象的不确定性。一旦打开，便难以再关闭，其长期影响难以评估。而OpenAI却执意要这么做。

2025年10月15日，OpenAI CEO山姆·奥特曼宣布：从12月起，ChatGPT将为经过年龄验证的成年用户开放成人内容生成功能。

自ChatGPT问世以来，OpenAI一直是行业的风向标。他们推出Dall·E，使互联网上有了文生图；推出Sora，则带来了文生视频。从12月开始，如果OpenAI无限制地输出成人内容，后果可想而知。

事实上，ChatGPT之前已具备生成成人内容的能力。2025年2月，OpenAI放宽了内容过滤器，允许在特定情况下生成成人内容。用户通过特定提示词，已能让ChatGPT输出一些成人向内容，尽管这些功能未被正式认可或系统化。

这种渐进式的政策松动，为此次正式开放埋下了伏笔。OpenAI在测试市场反应、观察竞争对手动向，同时评估技术可行性和法律风险。现在，他们终于决定迈出这一步。

01

《凡人歌》有句歌词，“道义放两旁，把利字摆中间”。马斯克深谙此道，他旗下的Grok从一开始就采取了极其开放的内容政策。

如果你给ChatGPT讲一个成人段子，它会说话题不适合讨论。但如果你给Grok讲，它会回敬一个更黄的。

Grok不仅允许模型输出成人内容生成，还推出了3D AI伴侣功能，包括动漫风格的虚拟女友Ani和虚拟男友Valentine。

根据Appfigures的数据，Grok第三季度移动端收入达到1850万美元，较第一季度增长400%。这个增长数字远超其他AI应用，其中成人内容功能的贡献不可忽视。

付费订阅 “SuperGrok” 的用户能启用两款 3D 伴侣。Ani拥有好感度机制与记忆模式，用户通过互动可以提升好感度。当好感度达到一定等级后，就可开启 “成人模式”。

马斯克不像奥特曼那样扭扭捏捏，他对成人内容毫不避讳，甚至将其视为Grok的核心竞争力。他在X平台上公开转发用户对Grok虚拟伴侣的喜爱，毫不掩饰地将成人内容作为产品卖点。

连基座大模型都这样了，那些通过对基座大模型套壳的AI应用厂商更是肆无忌惮。

比如早些时候被谷歌收购的Character AI。这是一个AI陪聊平台，你可以在上面找到各种角色：霸道总裁、温柔学长、冷酷杀手、甚至是历史人物。

不过该平台存在明确的内容规范与限制，例如会对暴力、仇恨言论、极端内容等进行过滤。但在实际使用中，用户仍能通过特定话术引导或模糊表述，使平台输出一些成人内容。

02

然而，OpenAI的“搞黄色”并不仅仅为了流量。从大模型的训练来看，过度的内容审查会污染内容审查，进而影响模型性能。

严格的内容过滤会导致训练数据缺乏多样性，使模型在处理边缘案例时表现不佳。在DALL·E 2的开发过程中发现，过滤掉的图像往往代表了数据集中的某些重要聚类，这种过滤会导致模型在相关领域的表现下降。

这个问题的技术根源在于数据分布的完整性。大语言模型的训练依赖于对真实世界语言分布的学习，而真实世界的语言表达中涉及性、情感、身体等话题的内容占据了相当大的比例。

当训练数据中这些内容被大规模过滤后，模型学到的就是一个被人为扭曲的语言分布。

禁止成人内容可能反而会导致模型变得“智障”。

此外，过度安全限制会让模型在创意写作、文学创作等需要丰富表达的场景中显得“刻板”和“说教”，严重降低了用户体验。许多用户抱怨ChatGPT过于“政治正确”，缺乏人性化的表达。

所以一旦OpenAI放开成人内容的限制，用户能明显感觉到ChatGPT的性能提升。

03

然而成人内容也带来巨大挑战。年龄验证就是摆在OpenAI面前的第一关。

在国际社会，年龄验证形同虚设。比如Steam平台允许用户自行设定年龄。

虽然OpenAI声称将建立严格的年龄验证机制，但并未明确表示具体使用哪种方法。国际社会对于网络痕迹和隐私的重视也使得年龄验证机制举步维艰。

此外还涉及地缘政治问题。欧盟的AI法案要求对AI系统进行严格的合规性审查。成人内容在很多欧盟国家被视为高风险领域。

违反规定可能面临高达公司全球年收入4%或2000万欧元的罚款。这对OpenAI来说是一笔巨大的金额。

在美国各州对AI成人内容的法律不同。一些州要求验证用户年龄否则面临民事诉讼而加州正在推动更严格的法案要求平台默认屏蔽不适合未成年人的内容。