生成式AI时代网络谣言治理：平台的技术革新与运营应对

在网络热点事件持续发酵的过程中，谣言往往如影随形。生成式人工智能的广泛应用，使得网络谣言的产生与传播呈现愈演愈烈之势。

清华大学新闻与传播学院新媒体研究中心发布的报告显示，2024年AI谣言的數量呈现显著增长趋势。其中，经济与企业类别的AI谣言增速最为突出。

据界面新闻了解，抖音、微信公众平台、微博、快手等主流平台均已设立专门的辟谣账号，定期对传播广泛的谣言内容进行澄清与驳斥。

但一位平台治理人员向界面新闻透露，生成式AI极大地降低了制造网络谣言的技术门槛，而平台核实信息真实性通常需要一定时间，这种时间差足以让谣言广泛传播，甚至引发社会危害。

根据警方此前披露的案例，部分不法团伙利用AI工具批量生成谣言，通过其掌控的数百个自媒体账号发布，短短几天内便能产出数百条内容。这些谣言经过发酵后，引发的新增讨论量更是难以计数。

上述平台治理人员还表示，在一些热点事件中，尽管平台发布了辟谣信息，但辟谣内容的传播热度远低于谣言本身，导致用户往往只接触到谣言而难以获取真相。

长期以来，“造谣易、辟谣难”的困境一直困扰着各平台的信息治理团队。9月16日，抖音在不实信息治理开放日上宣布上线“AI抖音求真”功能，并分享了通过技术手段治理谣言的方法，为网络谣言治理提供了新思路。

治理AI谣言：以技术魔法应对技术挑战

今年以来，诸如“歌手陈奕迅去世”、“演员于朦胧遗体发现带血劳力士”等多起网络谣言事件频繁搅动舆论场，事后均证实这些谣言利用AI技术进行了伪造。

此前，平台在初步评估快速发酵的网络热点信息时，多依赖治理人员的经验判断。抖音生态治理团队一位负责人在近期接受界面新闻采访时表示，今年上半年研判“华山医院前院长张明远在洛杉矶去世”的信息时，发现大量自媒体发布内容相似度极高，意识到该消息可能存在AI编造的痕迹。

界面新闻获悉，平台治理人员鉴别谣言的经验还包括识别信息中的常识性错误、核查信息源是否来自权威媒体等。但随着生成式AI能力的提升，这些人工经验在谣言研判中的作用日益有限，平台治理人员对引入技术手段进行谣言研判的呼声越来越高。

抖音不实信息治理负责人李博在不实信息治理开放日上透露，近期抖音已在谣言治理工作中应用大模型技术。基于谣言治理大模型开发的智能体类似于平台训练的“谣言鉴定专家”，它学习了过往人工研判的经验，但能力比人工有了大幅提升。

李博以今年7月出现的“老年人坐火车出新规”谣言为例，详细解释了大模型的工作机制：智能体首先解析相关视频的画面、文字和音频，提炼主旨为“7月1日起老年人坐火车可享购票优惠”；随后，智能体会全网检索相关信息，重点关注权威媒体及12306官方账号是否有相关报道或辟谣，以评估信息真实性；在发现官方辟谣后，智能体判定该信息为谣言，并识别其高误导性和风险。判定后，智能体不仅处理了该条内容，还回溯筛查其他相关内容，全面清除不实信息。

相比人工处理，这种方式在全网信息研判和回溯处置上效率更高。抖音数据显示，在大模型技术支持下，近一个季度抖音谣言内容曝光量下降67%。大模型识别准确率达到85%，且仍在持续提升中。

但谣言研判并非总是如此简单，治理人员常遇到无法立即核实信息真实性的问题。例如“九月社保新规要求全民强制参保”的信息，实为对政策的补充说明，被一些自媒体误读为新规，引发诸多误解。

为此，抖音还推出了针对“无依据不当臆测内容”的大模型，一方面基于内容本身的论证进行判断，另一方面结合外部举报等信号。高置信度的内容直接处置，疑似内容则交由人工进一步审核。

李博告诉界面新闻，经过一段时间的运行，团队发现谣言治理大模型仍有优化空间。例如，将团队的专业知识积累转化为大模型的知识库，并利用平台上的专业达人作为信息反馈渠道。

破解“造谣易辟谣难”：平台需深化运营投入

通过技术手段能够直接处理的谣言仅占一部分，大量存疑信息同样可能引发误解并扰乱舆论场。

这类信息仍需平台加大运营力量，向用户呈现信息的完整真相。界面新闻了解到，目前多个平台仍以处置已证实的谣言信息为重点，对存疑信息的治理面临诸多难点。

微博和抖音在存疑信息治理上已采取明确措施。其中，微博在信息流中推出查证功能，用户点击后可跳转至智搜页面，查看AI总结的事件全过程，大幅减少了用户因获取片面信息产生的误解。

抖音近期将原有的辟谣卡功能升级为“AI抖音求真”功能。该功能直接附在易引发误解的短视频下方，用户点击即可跳转至详情页，了解事件全貌。据抖音披露，“AI抖音求真”功能目前日均曝光量约1亿次。

以往平台信息治理侧重于处置谣言内容，辟谣信息和事件全貌需用户主动搜索获取，这在一定程度上加剧了“造谣易辟谣难”的困境。当前治理思路转向通过运营手段增加真实信息曝光，使用户在浏览内容时被动接收真相。

抖音谣言治理员工李青松还向界面新闻透露，抖音发现未经证实的存疑信息后，会依据“社区热点信息治理规则”先实施流量限制，避免无序传播误导公众。若后续官方通报确认为谣言，则纳入谣言库处理；若确认为事实，则解除流量限制；若长期无定论，则持续标记存疑并管控流量。

例如，在近期演员于朦胧坠楼事件中，各平台涌现大量关于坠楼原因的信息。在警方通报前，平台难以核实真伪，只能尽力展示信息全貌，并对部分存疑内容限制流量。但不可否认，各平台上仍有大量谣言在传播。

在李博看来，当前谣言的成因多样，包括主观编造、传播偏差、理解不足等，甚至有些非恶意观点在传播中被用户加工成谣言。“解决谣言传播问题仍面临重大挑战，不实信息治理是一场智慧与技术交织的持久博弈。”