AI生成内容新规挑战多，行业规范与合规成焦点

AI标识新规实施已逾半旬，一系列变革悄然发生。

抖音、微博、小红书等社区平台已明确标注AI生成的图片和视频，视觉中国等视觉内容交易平台同样对AIGC内容进行了清晰标识。然而，据界面新闻观察，部分社区平台在识别AIGC内容时仍存在误差，部分AI生成图片未被标注。

新规要求AIGC内容需具备显式或隐式标识。显式标识即用户可明确感知的标识，如图片、视频中的水印；隐式标识则嵌入内容文件数据中，不易被用户察觉。实际应用中，许多用户因美观考虑不愿添加显式标识。技术人员透露，当前隐式标识技术尚难抵御“有意无意”的破坏，存在被篡改或删除的风险，且在传播过程中可能丢失。

内容治理团队负责人指出，AIGC带来的虚假信息不仅限于图片和视频，还包括大量文字内容，后者难以通过显式或隐式标识识别。

今年来，AI生成的虚假信息频繁搅动舆论场，引发对AIGC内容传播生态影响的关注。随着AIGC的广泛应用，版权与人格权纠纷显著增长。

隐式标识需统一规范

商汤科技副总裁、总法律顾问张望解释了显式与隐式标识的技术原理。显式标识属后处理技术，需在图片、视频中明确标注“AI生成/合成”，且文字高度不低于画面最短边长的5%。隐式标识则更复杂，属信息嵌入技术，如商汤的AIGC服务平台基于EXIF规范将特定信息嵌入图片元数据字段。

张望表示，《办法》实施时间较短，各平台对隐式标识的互认尚需时间磨合，目前存在互认挑战。

全球范围内尚未形成统一的AIGC内容隐式标识技术标准。现有技术流派包括改变像素/频域、基于生成过程的“胎记”、修改元数据等，我国采用元数据技术流派。

视觉中国CEO柴继军表示，尽管缺乏统一标准，但全球趋势一致，即必须对AIGC内容进行标识。中国的标准由国家法规推动，落地速度较快。

柴继军指出，境内外内容生产平台隐式标识技术标准不统一，给识别带来挑战。建立全球通用水印系统也面临诸多挑战，如检测算法是公开还是私有。

对于隐式标识信息易丢失或被篡改的问题，柴继军表示，在AIGC服务中加入可靠水印功能需付出成本，是当前的挑战之一。

尽管识别隐式标识存在挑战，各平台仍尽力在可控环节执行规范，规避乱象。如微博、抖音等平台提升技术手段识别AIGC内容，并通过运营手段限制虚假内容传播。

AIGC商用需求增长，合规问题凸显

AIGC降低了内容生产门槛，不仅普通用户用于分享和娱乐，品牌和电商商家也用于广告和营销。然而，争议随之而来。

去年8月，小米因使用Midjourney生成的女模特海报引发争议。同年9月，触宝AI因用户上传图片生成奥特曼形象作品被诉侵犯著作权。

国内外因AIGC商用引发的争议和纠纷主要涉及数据合规、信息披露等方面。大模型训练数据未经授权、使用原创作品或形象导致侵权等案例频发。

信息披露方面，广告、营销素材未如实告知用户使用的AIGC技术引发信任危机；数据授权链条不清晰导致肖像权纠纷。律师指出，国内针对AIGC训练数据引发的著作权纠纷的法律规范尚不清晰。

柴继军表示，视觉中国对涉及真人肖像的AI视觉内容持谨慎态度，明确禁止上传可识别真实人物肖像的AI视觉内容。建议使用合规平台并确保内容来源清晰可授权。