AI造假的幽灵论文：科学界的认知污染危机

【导读】如果论文是AI写给AI看的，那人类还剩下什么？

本月初，挪威奥斯陆的一个寒冷午后，心理学教授Dan Quintana准备宅在家中，把那件拖了几周的苦差事给办了。

他是心理学领域一家知名期刊的受邀审稿人，他打开了一篇需要他审阅的待发论文。

文章初看中规中矩，逻辑清晰，数据翔实，无异常。

但当他扫了一眼参考文献，疑惑顿生。文章引用了他的一项工作，标题合理，合作作者也皆为旧识。

一切看似正确，却有一个致命问题：这篇文章根本不存在，是彻头彻尾的「幽灵论文」！

AI不仅捏造了观点，还捏造了整条引用链，甚至通过算法把Quintana真实的合作网络算了一遍，编造了一个让他差点信以为真的「真论文」。

每天，Quintana都会在Bluesky和LinkedIn上看到同行吐槽「幽灵引用」的怪事。

就连美国政府去年春天发布的关于儿童健康的MAHA报告初版中，也包含六处以上的此类引用。

此前，Quintana认为这种错误只会发生在「野鸡刊物」里。直到这次，他发现类似的错误竟然出现在他所尊敬的、该领域严肃的知名期刊上。

这时，他才意识到这个问题有多普遍。

疯狂的流水线，从「离谱插图」到完美的癌症数据模板

如果你觉得「幽灵引用」只是个例，那就太低估现在的「造假产业」了。

英国有一家名为Clear Skies的公司，CEO Adam Day就像科学界的「缉毒警探」，用AI去抓那些用AI造假的人。

在他看来，偶尔用ChatGPT生成一两篇论文的「散户」，根本不是目标。

真正的威胁来自那些「工业化作弊」的公司，即臭名昭著的「论文工厂」。

这些工厂会反复利用同一套素材，甚至发布多篇高度雷同的论文。

一旦某个模板被科学出版商标记为欺诈，Adam顺藤摸瓜，就能挖出一串尚未发现的假论文。

最可怕的是，这些垃圾内容正涌向最需要真实科学的领域，比如癌症研究。

论文工厂已经研发出了一套高效的「癌症论文模板」。

声称测试了某种肿瘤细胞与成千上万种蛋白质中某一种的相互作用。只要结果不惊人，就无人会去复现实验。

荒诞的闭环，用「白色密令」操控AI审稿的科学家们

面对汹涌的AI「slop」（AI所创造的垃圾），审稿人和科学期刊编辑们能做什么？

真相是他们快崩溃了。

科学出版一直有「管道问题」。早在19世纪初，哈佛大学科学史学家Alex Csiszar就发现编辑在抱怨手稿太多处理不过来。

这也是同行评审制度诞生的初衷：找外部专家来分担压力。

现在，大模型把「同行评审」这根管道也给撑爆了。

为了应对AI生成的论文，不堪重负的审稿人也开始用AI来写评审意见。

认知污染，科学文献正滑向「死亡互联网」黑洞

如今，这场AI垃圾的洪流已经漫过了期刊的「防护堤」，冲向了传播速度最快的预印本服务器。

物理学家Paul Ginsparg建立arXiv时，希望打造一条快车道让科学成果得以第一时间共享。如今这里正沦为算法的垃圾场。

自从ChatGPT发布后，arXiv等平台的投稿量暴涨。分析发现，使用大语言模型的科学家发布的论文比不使用的多约33%。