AI谣言治理：技术辟谣的新挑战与应对

网络热点事件总是伴随着大量的谣言，而生成式AI的普及让网络谣言变得更加猖獗。

清华大学新闻与传播学院新媒体研究中心发布的报告显示，2024年AI谣言数量显著增加，其中经济与企业类AI谣言增长最为迅猛。

据界面新闻了解，抖音、微信公众平台、微博、快手等平台已设立专门的辟谣账号，定期对网络谣言进行澄清。

但一位平台治理人员向界面新闻透露，生成式AI降低了制造网络谣言的门槛，而平台核实信息的真实性需要一定时间，这导致网络谣言有足够的时间差进行广泛传播，甚至带来社会危害。

警方此前曝光的案例显示，不法团伙利用AI工具生成谣言，并通过控制的自媒体账号发布，短时间内就能发布数百条内容。这些谣言经过发酵后，新增讨论数量惊人。

尽管平台对这些谣言进行了辟谣，但辟谣内容的传播热度往往低于谣言热度，用户往往只看到谣言而看不到辟谣信息。

长期以来，“造谣容易辟谣难”一直是平台信息治理团队面临的问题。9月16日，抖音宣布上线“AI抖音求真”功能，并分享了一些通过技术手段治理谣言的方法，为网络谣言治理提供了新的思路。

以技术对抗AI谣言

今年，“歌手陈奕迅去世”、“演员于朦胧遗体带血的劳力士”等网络谣言事件频繁出现，均被证实使用了AI进行伪造。

过去，平台在初步判断网络热点信息时，主要依赖治理人员的经验。抖音生态治理团队负责人表示，在判断“华山医院前院长张明远客死洛杉矶”的信息时，发现大量自媒体发布的信息高度相似，意识到这则消息可能有AI的痕迹。

平台治理人员还通过寻找信息中的不合理之处、信息来源是否权威等来判断谣言。但随着生成式AI能力的提升，这些人工经验在判断谣言上的作用越来越有限，平台治理人员呼吁引入技术手段。

抖音不实信息治理负责人李博透露，抖音已在谣言治理中引入大模型技术。智能体像一个由平台训练的“谣言鉴定专家”，学习了人工的经验但能力大幅提升。

李博以“老年人坐火车有新规定”的谣言为例，解释了谣言治理大模型的工作机制：智能体拆解视频画面、文字和音频，提炼主旨并全网检索相关信息。在发现官方辟谣后，智能体确定该信息为谣言并处理相关内容。

相比于人工处理，这种方式在全网信息研判和回查处置上的效率更高。抖音数据显示，在大模型技术助力下，近一个季度以来，抖音谣言内容曝光量下降67%，大模型识别准确率高达85%，仍在持续提升中。

解决“造谣容易辟谣难”，平台需加强运营

技术手段虽然能处理部分谣言，但大量存疑信息仍需平台投入更多运营力量来呈现真实信息的全貌。

目前，多个平台对谣言治理的重点仍是处理已证实的谣言信息，对存疑信息的治理仍存在难点。

微博和抖音在存疑信息的治理上有了明确动作。微博推出查证功能，用户可查看由AI总结的事件全貌。抖音升级“AI抖音求真”功能，直接展示在易误解的短视频下方。

抖音员工李青松表示，发现存疑信息后，会根据“社区热点信息治理规则”采取流量限制措施。若后续官方通报明确为谣言则处理；若为事实则解除限制；若长期无定论则持续管控。

在李博看来，当前谣言产生多种多样且治理存在挑战。不实信息的治理是一场智慧与技术的持久战。