AI假新闻泛滥：社交媒体治理面临新挑战

今年初，网络上盛传“华山医院前院长张明远客死洛杉矶”的消息，但不久后便被证实为AI生成的假新闻。

这一消息在多个微信群中迅速扩散，引起了广泛讨论。然而，令人惊讶的是，即使是一群以媒体从业者为成员的微信群，在讨论该消息时，也未曾有人质疑过信息的真实性。

抖音生态治理团队在查证该消息时，发现该消息已在简中互联网泛滥，甚至某垂直医疗内容社区也发布了该信息。团队意识到这则消息可能有AI编造的痕迹，因为大量自媒体发布的信息相似度过高。

抖音生态治理团队立即进行谣言核查，首先查询了华山医院官网的医生简介，但并未找到张明远的名字。接着，他们又搜索了海外的信息，同样没有发现相关报道和讨论。随后，团队通过联系华山医院等相关方核实情况，并对谣言内容进行处置。

今年以来，类似的事件频繁出现，从“每20个80后有1人去世”到“上海退休教授靠阳台核电池供电”，从“某超一线明星在澳门豪赌”到“陈奕迅去世”……这些事件不仅扰乱了舆论场，也暴露了网络谣言治理的新困境。

9月1日，《人工智能生成合成内容标识办法》正式施行，要求服务提供者在生成合成内容中添加显式或隐式标识。

在新规实施之际，抖音、快手、微信公众号、微博、百度等平台相继推出内容标识功能。显式AI内容标识方便用户辨别AI生成的内容，而隐式AI内容元数据标识则为内容溯源提供技术支撑。

这些新举措能否解决网络谣言治理的困境？

AI假新闻为何频繁搅动舆论场？

网络谣言并非新鲜事，但随着生成式AI的广泛应用，网络谣言呈现出新特点。

过去几年中，“吃黑木耳能清理血管垃圾”、“小孩发烧要赶紧吃退烧药”等话题在微信公众号、今日头条等平台广泛流传。这些谣言往往利用老年人对健康科普的关注及信息获取和甄别能力的局限来误导他们。

为了治理这些网络谣言，各平台都上线了辟谣栏目。这些网络谣言的甄别难度并不大，大多属于常识类内容，只要与专业权威内容进行比对就能识别。

今日头条、抖音等平台已上线谣言库，在经专业核实和研判后，将这类信息录入库中，能够在后续新增发文环节进行拦截。

然而，生成式AI降低了内容生产的门槛，越来越多新闻事件类的谣言被制造出来。这些谣言往往能触发读者情绪，比常识类谣言具有更强的传播能力。

另一类AI制造的假新闻则完全是无中生有。这类谣言往往戳中网友的情绪点，迅速引爆话题，带来更大的公共危害。

假新闻治理难度仍大，平台探索新方法

“华山医院前院长张明远客死洛杉矶”的谣言案件已被警方查清。根据上海公安网安部门的信息，犯罪嫌疑人利用AI工具生成并发布不实帖文30余万条。

这些AI生成的假新闻给各平台的内容治理带来了巨大压力。以“张明远”谣言事件为例，平台从发现到核实可能只用了一天时间，但这条新闻已在各社交平台广泛传播。

尽管媒体和平台对“张明远”相关谣言进行了辟谣，但很多读者并未看到辟谣内容。清华大学新闻与传播学院副教授陆洪磊认为，生成式AI正在重塑谣言的传播生态。

平台批量处理谣言已不是问题，但捕捉潜在不实信息风险和核实确认信息的真实性仍是难点。此外，如何让更多受众看到辟谣的信息也是一个挑战。

抖音生态治理团队表示，今年平台面临的假新闻治理难度确实在变大。在文字内容治理上，AI生成内容与真实内容难以区分；在图片和视频画面内容治理上，大模型技术的进步使得AIGC内容的瑕疵越来越少。

9月1日，抖音升级了AI内容标识功能。如果平台识别到内容的元数据中存在隐式标识或疑似AIGC内容，将在作品页面添加相应标识提醒用户注意甄别。

尽管各平台都在积极探索假新闻的治理举措，但仍有很长的路要走。用户避免被假新闻误导的最好方法是核实内容来源是否权威。