AI造假零门槛：当造假成为普通人的日常

长期以来，造假被视为少数专业人士的领域。它依赖专业技术和设备，需要行业人脉，造假者通常藏身于灰色产业，神秘而毫无道德，与大众保持着若即若离的距离。

但今年开始，越来越多的人感受到了这种变化带来的冲击。

11月，毛绒玩偶商家于瑾第一次遭遇AI假图引发的仅退款风波。买家收货一周后，上传了一张图片申请仅退款，店铺客服以人为损坏为由驳回，随后买家申请平台介入并成功拿回了50元。

然而，那张图片存在明显破绽——玩偶柔软的裙边上竟出现了类似陶瓷的坚硬裂痕。于瑾怀疑这是AI生成的假图，便将经历发到社交平台吐槽。后来在媒体介入下，平台自掏腰包退还了50元，而使用AI假图申请仅退款的买家则再无音讯。

于瑾意识到，AI的普及正让“羊毛党”的恶意退款成本降到冰点。一部手机、一句提示词就能生成一张足以乱真的图片，轻松薅走价值百余元的玩偶，再挂上二手平台倒卖。“几乎零成本，几乎零风险，也不会受到任何惩罚。”

今年更早时，公关齐云也经历了类似的冲击。他服务的上市公司被一篇AI生成的黑稿恶意攻击，文中细节荒诞不经，却因平台审核规则僵化，他和团队耗费整整两天，逐条举证、盖章、申诉，才让这篇可能只花了几十秒炮制的帖文从网络上消失。

齐云感慨，从业十多年，过去与人基于事实交锋，是智力层面的挑战；如今面对AI批量制造的谣言，感觉智商受辱，愤怒却又无计可施。

这是过去三年生成式AI爆发式发展的另一面。大模型在文字、图像、视频、音频生成上的能力飞跃，几乎让所有人都能零门槛、零成本使用AI。这些人中，不仅有AIGC艺术家和科技爱好者，也混入了羊毛党、流量MCN机构。

结果显而易见：造假门槛被削平，参与者从专业黑产扩散到普通网民，而平台审核机制仍停留在简单的比对与打标签。受害者被骗、被拖累，还要付出成千上万倍的成本被迫自证。当造假成为低成本、低风险、高收益的“生意”，越来越多的普通人将滑入其中，共同编织一张虚假信息的巨网。

从无到有，学会鉴别AI假图

最初，面对买家发来的图片时，店内无人怀疑过真伪。

11月17日，买家收货一个多星期后，于瑾店铺的客服收到仅退款申请及一张佐证图。图中粉色毛绒玩偶污渍斑斑，裙摆留有类似火焰灼烧的痕迹。客服将图发到工作群，大家一致判断为人为损坏。“可能是掉进泥坑，或是被火燎过。”于瑾回忆。

客服按常规流程回复：发货全程有监控，商品保证全新，到货后人为损坏不属于质量问题，不支持仅退款，并驳回了申请。买家却紧咬不放，直接申请平台介入，当天便获得了50元赔偿。

这是典型的恶意退款，于瑾说。几乎所有电商商家都曾遭遇类似情况。正常情况下，买家申请退款理由多为开线、勾丝等问题，与此次迥异。被扣款后，于瑾立即准备申诉，同事随口一句话却点醒了她——那张图越看越不对劲，像是AI生成的。

为求确认，于瑾请从事AI工作的朋友帮忙鉴定，结果提示有AI痕迹；她又自行询问AI助手，同样得到反馈：“服饰的裂纹纹理过于规整，缺乏真实材质的物理逻辑。”

第一次面对这种情况，于瑾倍感无奈。她整理好证据和申诉材料提交平台，但平台并未采纳，驳回了她的诉求，50元退款仍打入买家账户。对商家而言，这意味着挽回损失的唯一通道彻底堵死。

于瑾无计可施，只能将经历发到社交平台，希望提醒同行。也因此，媒体找到她，协助联系平台拿回了垫付款。

但她心里并不痛快。于瑾愤然告诉我：“造假毫无技术含量，毫无门槛，任何图片交给AI，它都能帮你‘修复’成损坏模样，作恶成本低到可以忽略，即便被揭穿也无需承担后果。”她清楚，这50元由平台垫付，已退给买家的款项并未追回。折腾一圈，商家费心费力，换来的只有满腹委屈；而造假者实付167元，拿回了50元，外加一个标价179元的玩偶。

“双11”期间，类似案例密集曝光，“ai假图 仅退款”等话题冲上热搜，商家们的神经被反复挑动。偏偏此时，仍有人顶风作案。

11月21日，键盘商家柑橘收到一位买家的仅退款申请，附带的佐证图同样申请平台介入。此时距买家签收已过去半个月。

柑橘一眼识破——佐证图的构图、背景、光影，竟与买家签收第三天发布的评价图如出一辙，只是多个键帽被刻意添加了开裂、破损、污渍和变形，夸张到失真。她对这种拙劣破绽感到无语，迅速整理证据提交平台。这一次，平台没有草率处理，而是驳回了买家申请，关闭退款渠道。

上图为买家评价图，下图为AI假图。图源：受访者供图

从收件人信息判断，柑橘确信自己面对的不是老练的羊毛党，而是一名普通大学生。用AI假图仅退款的群体，此刻变得具体而清晰。

在许多老电商人心中，职业羊毛党至少算得上一个特定群体，有套路、有话术、有明确的牟利目标。可如今，一个与灰产毫无瓜葛的人，只需一个免费应用、几句提示词，便能生成一套足以骗过平台审核的“证据链”；退款成功后，商品挂上二手平台倒卖，再赚一笔。

对商家而言，这种变化带来的不仅是经济损失，更是一种无从防御的无力感。

AI突破造谣想象力

电商平台上的AI假图仅退款，不过是冰山一角。随着AI大模型在文、图、视、音四域渐趋成熟与普及，过去只有专业团队才能操盘的造假行为，如今被压缩成任何人都能轻松上手的简单操作。

一个普通用户，可以借文生图生成商品损坏图，也可以用文生视频合成目击现场；生成过程仅需几秒，平台呈现的可信度却与真实内容几无差别。

这并非单一技术问题，而是一条由无数轻量工具拼接而成的造假矩阵。如同电商商家的切肤之痛，内容行业同样在经历剧烈震荡：名人被AI换脸带货投诉无门、MCN机构用AI批量造谣、企业被层出不穷的AI黑稿持续攻击……

“以前造谣要看人的想象力，一个人一天顶多造一两个谣；现在AI几秒钟就能在一篇稿子里编造十个谣。”齐云在公关行业摸爬滚打十余年，亲历了AI造假对信息生态的狂轰滥炸。

半年前，日常舆情监控中，齐云发现一篇公众号文章。乍看像模像样，细读之下才惊觉内容之离谱。

文中称，齐云服务的公司董事长办公室墙上挂着K线图，又引用财务总监某人的原话。“离谱得很。我们董事长办公室根本没有图，财务总监也不叫那个名字。”齐云说。但文章就这么煞有介事地发出，还引发不少讨论。

这是齐云遇到的典型AI黑稿——细节丰富、无中生有，相对容易鉴别；更棘手的是那些非典型AI文章，真假参半，人机难辨。在他看来，黑稿生产者的工具升级了：以前是人工，“写财经文章还得懂点门道，一天最多产出1到2条”；如今有了AI，成本与门槛陡降，生产效率飙升，但操盘者还是那批人。

黑稿灰产将AI能力嵌入商业模式，形成更便捷的利益链条：一条链，用AI黑稿倒逼企业投放广告，黑稿越多、辟谣越难，企业越焦虑，越容易掏钱消灾；另一条链，用AI黑稿为投资群引流、卖课，标题越耸动、内容越“内幕”，越易吸引想抓住风口的人。AI秒产一批“重大利好/利空”的假截图、假分析，炮制几位股神般的王哥李姐，完成从公域推文到私域社群的流量转化，最终通过卖课、咨询牟利。

类似模式比比皆是。例如，2024年6月，央视新闻报道，某MCN机构利用AI软件自动抓取网络信息，生成配套图文，包装成博眼球的“假新闻”，靠流量变现；日均生成4000至7000篇，日收入超1万元。

就在上月底，小鹏汽车也遭遇典型AI造假。一段以小鹏汽车广州车展展台为背景的低俗色情视频在社交平台快速传播，画面中人物的衣着、光影与展台几乎无缝衔接，让不少网友信以为真。小鹏汽车法务部介入后，警方确认视频由一名男子李某利用AI技术生成，仅为“炫耀个人技术”，并非真实事件。造假主体从灰产团队滑向普通个人，成为“顺手试试”的产物。

这种变化令人不安——AI已将造假门槛降至与好奇心齐平的位置，一次尝试、几句提示词，任何人都可能成为“造假者”，未必出于恶意，只因轻易、便利、无成本，以及“反正不会怎样”的心理。

平台机制跟不上AI灰产节奏

生成式AI的普及，正在把造假日常化、零成本化。

事实上，大多数AI助手并不认为满足用户要求是在协助造假，一句“你能让这张图片上的橙子看着像坏了一样吗”，它便能机敏地给橙子加上霉斑，还会主动询问是否需要生成一段配套视频。

图为AI生成的食物变质照片。图源：豆包App生成

与这种轻松制造虚假相对的，是平台审核机制仍滞留在旧时代。

为了处理那条离谱的AI黑稿，齐云和同事前前后后忙了整整两天。第一次，他们上传加盖公章的投诉函件，申请删文，失败。第二次，他们逐条反驳黑稿中的虚假信息，逐一举证；单说财务总监不叫某某还不行，必须写明真实姓名，附上公司在交易所发布的公告签名截图。

整个过程繁琐而折磨人。“你造我的谣，我还要替你举证。”齐云难掩愤懑，“我没说过的话，怎么举证？董事长办公室没挂图，难道要专程拍张照片传过去？就算拍了，你又如何确认那真是我董事长办公室的照片？”

若要走报警、起诉程序，更是难上加难。齐云直言，他服务过的上市公司法务部总共六七人，面对满天飞的AI黑稿，逐一起诉无异于杯水车薪。起诉或报警对绝大多数公司来说根本不现实。

在这种失控感中，齐云意识到平台并未跟上AI灰产的节奏。“我不懂技术，但我觉得技术公司应该有办法判别哪些内容是由AI生成的。”

目前，各大社交平台对AI生成内容的管理，主要依靠“打标签”：针对用户上传的AI图片、视频，在顶部或底部附一行小字提示；而对于文字内容，除平台内置的AI总结、AI搜索类工具外，用户上传的纯文本并不会被标识是否由AI生成。

AI生产的文字内容因此成为平台管理的真空地带，技术上更难识别。即使是较为严谨的学术论文AI率检测，也在今年毕业季引发大量争议，被质疑误判频发、并不可靠。

当AI批量产出内容，信息生态的失衡愈发凸显。“高质量内容被淹没了。”齐云说。专业圈层里，人们还能手动筛选公众号文章；但在大众信息池，算法推送的往往是那些低成本、高刺激、批量复制的AI内容。大量AI生成的低质信息，正将真实内容挤到更逼仄的缝隙里。

齐云坦陈，曾经他享受与人基于事实的讨论，哪怕是负面稿件，至少是智力层面的交锋；如今面对AI编造的谣言，他感觉智商受辱，“你还不知道怎么反驳，怎么证明它就是一堆没有智识的代码。它不配成为对手，你却拿它毫无办法，这让人极度愤怒。”

最终，齐云心灰意冷地转岗了。他说，一个公关，整天琢磨如何跟技术平台打交道、如何总结最有效的投诉话术、如何利用平台算法限制文章传播——这跟他刚入行时，早已不是同一份职业了。

然而不是每个人都能转身离开。更多的受害者还要继续生活，工作流程无法中断。一边是随手可生的虚假内容，一边是日复一日的自证、申诉。本该由技术消解的问题，被悄然转嫁给每一个个体。

当AI把造假成本压到历史最低，又反向将维权成本推至新高，中间的裂隙是个体的困惑与试探。造假开始与每个人的选择纠缠。一张假图、一段假视频、一篇假文章都能被轻易炮制，当违法与不违法之间只剩一句提示词的距离，“能不能”与“该不该”开始混淆，真伪的界限不再由事实裁决，而是由人心裁定。

（文中受访者皆为化名。）