X平台Grok掀起AI色情风暴，多国监管介入

几天前，伊隆·马斯克在 X 账号上分享了一张吐司机穿上比基尼的照片，并戏称，“不知为何，这让我笑得停不下来。”

马斯克此举揭示了 X 平台与 Grok AI 工具的争议核心。自去年年中推出 AI 图像生成及编辑功能以来，Grok 尤其因“Spicy”模式（火辣模式）而备受关注。此模式下，Grok 限制较少，可生成成人内容。然而，随着 X 平台用户纷纷在评论区请求 Grok 生成带有性暗示或色情意味的合成图片，一场全球性的 AI 色情暴力风波随之爆发。

如马斯克所转发的帖子所述，“Grok 能给任何东西穿上比基尼。”从政客、明星到普通用户，只要照片发布在 X 上，便有人请求 Grok 修改为身着比基尼或进行其他性暗示的改动。女性受害者众多，甚至包括未成年人。“Put her in a bikini”已成为 X 平台上的热门趋势。

截至 1 月 14 日，包括英国、法国、意大利、印度、巴西、澳大利亚及欧盟在内的多国监管机构已对 Grok 发出警告或展开调查，印尼及马来西亚已宣布暂时封禁。

监管机构普遍认为，马斯克纵容 AI 工具未经同意生成性暗示乃至儿童色情图像，严重侵犯了公民权利。然而，马斯克对此似乎不以为然。他不仅转发了吐司机穿比基尼的照片，还亲自要求 Grok 给自己穿上比基尼，并称赞道，“Perfect.”对于媒体的问询，X 平台仅以“Legacy Media Lies（传统媒体的谎言）”回应。

全球蔓延的“AI 脱衣”风潮

尽管难以确定“Put her in a bikini”风潮的兴起时间，但媒体普遍关注此事始于新年前后。据英国《卫报》统计，12 月中旬，X 平台上 Grok 收到的比基尼修改需求每天约 10 至 20 个，但月底飙升至超 4 万个。新年期间，这一趋势蔓延至全球，1 月 2 日 Grok 共收到近 20 万个请求。

新年期间，X 几乎成为全球最大的 Deepfake 网站。据彭博社报道，仅 1 月 5 日至 6 日的 24 小时内，X 上的 Grok 平均每小时生成约 6700 张性暗示图片。

许多女性深受其害。她们在 X 上分享的照片被 Grok 修改为比基尼或其他性暗示图片后大肆传播。一旦她们表达不满，便会遭遇更多报复。

例如，美国网红阿什莉·圣克莱尔公开反对后，有人开始用她的幼年照片生成比基尼照片。甚至有人利用 Grok 生成遇害者的比基尼照片。

网络观察基金会发现未成年人的色情化图片在暗网论坛上流传，声称这些图片由 Grok 制作。该组织负责人担忧，此类工具可能将儿童 AI 色情图像带入主流。

付费用户的特权？

马斯克最初对这一风潮持调侃态度，甚至主动参与。但随着事态严重化，他开始正面回应争议。他表示，“任何使用 Grok 制作非法内容的人都会受到惩罚。”

随后，X 平台也对外表示将采取行动打击非法内容。此后，X 将 Grok 的使用范围限制为付费订阅用户。但这些措施并未平息争议。批评者认为马斯克试图推卸平台责任。

此外，X 将功能限制为付费用户后，更引发外界质疑。而 Grok 在应用内仍可免费使用。

面对多国监管机构的批评和调查，马斯克反应激烈。他批评这些限制是在打压言论自由。在英国首相斯塔默谴责 Grok 并要求采取行动后，马斯克甚至称英国政府为“法西斯”，并怒骂英国是“监狱岛”。

AI的责任与边界

此次争议可视为 DeepFake 类色情内容在 AI 时代的大范围复苏。

生成式 AI 兴起前，DeepFake 类色情内容已在社交网络和色情网站上出现。2019 年，DeepNude AI 工具简化了“一键 AI 脱衣”技术。然而，该工具很快因争议而下线。

此后，类似应用在黑灰产网站或 Telegram 群组中流传，但很少进入大众视野。此次 Grok 在 X 平台引起的争议程度前所未有。

AI 技术进步可能加剧了 DeepFake 色情内容的泛滥。部分 AI 公司在模型训练时利用成人视频或色情小说数据，导致模型更易生成色情内容。

尽管大公司对色情内容做出限制，但仍有初创团队涉足此领域。例如，Meta 曾因违规投放广告而起诉成人 AI 公司 CrushAI。

对于马斯克而言，这类 AI 色情内容或许是提升 Grok 用户活跃度的有效手段。自推出 Spicy 模式以来，Grok 的下载量与付费用户数不断攀升。

根据 Appfigures 统计，Grok 第三季度移动端收入达 1850 万美元，环比增长 400%。图像生成功能成为主要驱动力。