AI生成内容新规：全链条责任体系与版权争议

9月1日，由国家互联网信息办公室、工业和信息化部等联合发布的《人工智能生成合成内容标识办法》（以下简称《办法》），与配套强制性国家标准《网络安全技术人工智能生成合成内容标识方法》正式生效。

汇业律师事务所律师史宇航在接受《IT时报》采访时表示，《办法》不仅要求生成合成服务提供者（如模型开发者）进行标识，还对内容传播服务提供者（如社交媒体平台）规定了核验和添加标识的义务。这形成了从内容生成到传播的全过程监管责任体系，有助于从源头到终端对AI生成内容进行管理，并为国际社会提供了AI生成内容治理的范例。

《IT时报》记者实测发现，抖音、小红书、B站等主流视频网站已允许创作者主动标识视频中的AI生成内容。然而，对于未主动标识的AIGC（AI生成）内容，平台的识别能力仍较弱。

“AI换脸”如不标识，将面临严格处罚

记者在抖音、B站、小红书发布3条AI生成的视频，其中一条主动标注了AIGC，另两条未标注。

发布后，记者注意到，主动标注后，B站的AI标识明显，而小红书则较为隐蔽。对于未主动标注的AI视频，平台识别得不是特别准。整体来看，各平台在AI生成内容的检测和提示机制上存在差异，自动识别和强制标识能力有待提升。

强调平台主动核验的原因是，当前AI滥用案例屡见不鲜。据央视报道，某博主利用AI仿冒奥运冠军全红婵声音带货土鸡蛋，严重侵犯了运动员及家人权益，也暴露了平台监管的缺位。

随着AI技术的普及，“克隆”特定人物面貌和声音已可实现“一键式”操作。今年3·15期间，记者曾制作过明显带有AI换脸痕迹的视频并发布，所有视频均顺利上传且未被平台自动检测为AI生成内容。

《办法》实施的初衷之一是规范平台对AI生成内容的管理。实施后，“深度伪造”内容如不加声明将面临严格处罚。例如，用户利用AI换脸、合成语音制作虚假视频，平台若未履行核验和提示义务，均可能被追责。

史宇航认为，《办法》及其配套国标的生效对企业和开发者施加了明确且具体的技术和管理义务，核心在于“必须标识”和“规范标识”。

一个典型现象是：短视频平台上的用户使用“AI换脸”或“AI声音模仿”功能制作并发布恶搞或不实信息短视频，而该短视频App的开发者未按规定添加“AI生成”的显著标识。

史宇航表示，对于服务提供者，处罚措施包括警告、通报批评、责令限期改正；对于传播平台，未尽到核验和提示义务可能面临监管处罚；对于恶意用户，可能面临平台关停账号、限制功能等一系列处罚，甚至民事、行政乃至刑事责任。

创作者的挑战与适应

从创作者的角度看，《办法》的实施带来了新的挑战。

AI视频创作者俞国汉告诉《IT时报》记者，随着平台对AI生成内容规范的收紧，创作者的感知愈发明显。

“现在大家都很小心，必须遵守新规则。”俞国汉认为行业的规范化是好事。但潜在的风险是，有些甲方可能排斥带有明显AI标识的内容，“如果内容带有明显的AI标识，部分甲方可能就不想买账，创作者收益也可能因此减少。”

长远来看，《办法》的实施意味着AI创作正在走向更加规范的未来。另一位创作者阿远（化名）认为，随着通用大模型能力的提升和开源社区的繁荣，创作者即使不懂技术也可以轻松生成高质量内容。

阿远在不到一天的时间内使用近百张图片在阿里魔搭平台训练出一个能够生成“小红书风格”图片的专属模型。尽管平台提供了“无水印生成”与“添加AI标识并生成”两个选项，但在选择“无水印生成”时，会提示用户：“请自行落实标识及法定义务。”

阿远认为：“平台没有强制打标可能是考虑到创作自由。但创作者在创作完成后应自行标注。”

谁的版权？原始素材还是AI创作者

AI创作的便利和普及背后存在知识产权问题。阿远训练的模型使用了大量来自小红书的图片且未获得授权。那么这些图片的所有权归谁呢？是原作者、上传者、平台还是使用者？

史宇航表示，AI作品的版权在法律上争议很大，《办法》中要求文件元数据中的隐式标识必须包含关键信息。这有助于在争议发生时识别原始作者。

他建议个人用户和企业生成的文本、图片、音视频等内容应在合理位置添加显著文字提示。这不仅合规也是向公众和版权机构表明内容属性的第一步。