AI假图泛滥：零门槛造假的时代挑战

在多数人的认知中，造假似乎是少数专业人士的领地，它要求专业的技术、昂贵的设备，以及深厚的人脉资源。造假者通常隐匿在灰色产业的阴影中，以神秘、恐怖且毫无道德底线的形象存在，与大众保持着既远又近的距离。

然而，自今年起，一群人的体验发生了显著变化。

11月，毛绒玩偶商家于瑾首次遭遇了因AI假图导致的仅退款。买家在收到玩偶一周后，提交了一张图片申请仅退款。尽管店铺客服以人为损坏为由驳回了申请，但买家仍坚持申请平台介入，并最终成功获得了50元退款。

这张申请退款的图片存在一个不合常理之处——玩偶柔软的裙边上，出现了类似陶瓷制品的坚硬裂痕。于瑾断定这是AI假图，并在社交平台上吐槽。在媒体的介入下，平台最终自掏腰包，将50元返还给了于瑾，而那位使用AI假图申请退款的买家则销声匿迹。

于瑾意识到，AI的普及使得“羊毛党”的恶意退款成本更低。只需一台手机、一句提示词，就能生成以假乱真的图片，轻松骗取价值上百元的玩偶，并在二手平台上倒卖。“无需付出任何代价，也不会受到任何惩罚。”

今年早些时候，公关专家齐云也经历了类似的冲击。他服务的一家上市公司遭到AI生成的黑稿攻击，文中细节之离奇让他直言“离谱得很”。但由于内容平台的规则限制，他和同事们不得不花费整整两天时间，对文中细节一一举证、盖章、申诉，才让这篇可能只花了几十秒生成的帖文从平台上消失。

齐云表示，从业十多年，以前与人基于事实交流，是一种智力上的挑战。现在面对AI和AI编出的谣言，他感到智商受到侮辱，更加生气却又无可奈何。

这是过去三年生成式AI爆发式发展的另一面。AI大模型在生成文字、图片、视频、音频上的能力突飞猛进，几乎所有人都能零门槛、零成本地使用AI。这些人中不仅有AIGC艺术家、前沿科技爱好者，还有羊毛党和靠流量吃饭的MCN机构。

结果是，造假的门槛越来越低，有意或无意参与的人越来越多。而平台的审核机制仍停留在简单的比对和打标签阶段，受害者被欺骗、被拖累还要付出成千上万倍的成本被迫自证。当造假变成低成本、低风险、高收益的事情时，就会有越来越多的普通人加入造假行列共同构造一个充满虚假信息的世界。

从无到有学会鉴别AI假图

最初看到买家发来的图片时店里无一人怀疑过真假。

11月17日买家拿到玩偶一个多星期后于瑾店铺的客服收到仅退款申请和一张佐证图片。图中粉色的毛绒玩偶脏兮兮的裙摆有被火焰灼烧过的痕迹。客服把图片发到工作群大家一致认为是人为损坏。“有可能是掉在泥里或者是掉在火里了”于瑾说。

于是按照常规流程客服和买家说明发货全程有监控录像保证全新到货后人为损坏不属于商品质量问题不支持仅退款驳回了买家申请。但买家不依不饶直接申请平台介入当天拿到了50元的赔偿。

这属于恶意退款于瑾说几乎所有电商商家都遇到过类似的事。正常情况下于瑾遇到的买家申请退款的理由大多是开线、勾丝问题与这次大不相同。被扣款后于瑾马上准备证据申诉但同事随口一句话提醒了她——这张图越看越奇怪像AI生成的。

为了确认于瑾找做AI相关工作的朋友帮忙鉴定结果显示有AI痕迹；她又自己问了AI助手同样提示图片进行了AI修改——“服饰的裂纹纹理过于规整且缺乏真实材质的物理逻辑”。

第一次遇到这种情况于瑾有些无奈。她把证据和建议都整理好申诉但平台并未采纳驳回了她的诉求50元退款到达买家账户。对商家来说这意味着挽回损失的唯一渠道失效了。

于瑾不知道该怎么办了只能把自己的经历发到社交平台希望借此提醒同行。也因此媒体找到她帮忙联系平台拿回了款项。

但她其实并不开心。于瑾愤懑地表示：“造假没什么技术含量也没有什么门槛任何一张图拿给AI它都可以帮你修作恶的成本很低被发现了也不会得到什么惩罚。”她很清楚这50元退款由平台垫付已经退给买家的款项没有追回。折腾一番作为商家的她费心费力讨了个不开心而造假者则实付款167元拿回了50元以及一个标价179元的玩偶。

“双11”期间类似的案例被密集报道“ai假图 仅退款”等相关话题冲上了社交平台热搜榜挑动着商家们敏感的神经。偏偏这时仍有人选择顶风作案。

11月21日键盘商家柑橘收到一位买家的仅退款申请这位买家同样上传了一张佐证图片申请平台介入。此时距离这位买家签收商品已过去了半个月。

柑橘一眼就看出图片是AI生成的——佐证图片的构图、背景、光影和买家签收第三天发布的评价图一模一样只是多个键帽都有开裂、破损、污渍、变形过于夸张。她对这种显而易见的破绽感到无语也同步整理好证据提交给了平台。这一次平台没草率处理而是驳回了买家申请关闭退款渠道。

上图为买家评价图下图为AI假图。图源：受访者供图

从收件人信息来看柑橘很明确地知道自己面对的不是老练的羊毛党而是一位普通的大学生。用AI假图仅退款的人具像化了。

在很多老电商人心里职业羊毛党至少还是一个特定群体有套路、有话术、有明确的牟利目的。可如今一位原本和灰产毫无关系的人只需要一个免费应用和几句提示词就能生成一套足以骗过平台审核的证据链；退款成功后商品挂二手平台倒卖再赚一笔。

对商家来说这种变化带来的不只是损失更是一种陌生的无力防不胜防。

AI突破造谣想象力

电商平台上的AI假图仅退款只是冰山一角。随着AI大模型技术在生文、生图、生视频、生音频四个方向的逐渐成熟和普及过去只有专业团队才能完成的造假如今被压缩成人人可上手的简单操作。

一个普通用户可以通过文生图做商品损坏图也可以用文生视频合成目击现场；生成过程只需要几秒钟被平台呈现的可信度却与真实内容几乎无异。

这不是某一个技术问题而是一条由无数轻量工具组成的造假矩阵。如同电商商家感受到的那样内容行业也在经历类似的冲击：名人被AI换脸带货投诉无果MCN机构用AI大规模造谣企业被源源不断的AI黑稿攻击……

“以前造谣要看人的想象力一个人一天造一两个谣顶天了但AI可以几秒钟在一篇稿件里造十个谣。”齐云在公关行业从业十多年亲历了AI造假给信息生态带来的轰炸。

半年前日常舆情监控中齐云发现了一篇公众号文章。文章乍看像个正经新闻等他读下来才惊觉内容之离谱。

文中写齐云服务的这家公司其董事长办公室墙上挂着K线图又写财务总监某某说过哪些话。“离谱得很。我们董事长办公室没有图财务总监也不叫那个名字。”齐云说。但文章就那么像模像样地发了出来还引发了不少讨论。

这是齐云遇到的典型AI黑稿主要特点就是细节丰富但无中生有还比较容易鉴别更多是非典型AI文章真假、人机参半。在他看来对于专门生产黑稿的人来说AI只是一个工具以前是人工“写财经文章还是要稍微懂点的一天也就生产1到2条”现在有了AI成本和门槛更低了生产效率变高了但人还是那批人。

黑稿灰产把AI的能力嵌入商业模式形成运作更便捷的利益链条：一条链用AI黑稿倒逼企业投放广告黑稿越多、越难辟谣企业越焦虑就越容易掏钱消灾；

另一条链用AI写的黑稿给投资群引流、卖课标题越耸动、内容越“看似内幕”越容易吸引想抓住风口的人。AI能秒产一批“重大利好/利空”的假截图、假分析塑造几位股神般的王哥李姐完成从公域推文到私域社群的流量转化最终通过卖课、咨询获利。

类似的模式还有很多。例如2024年6月央视新闻报道一MCN机构通过AI软件自动在网络上抓取相关信息生成配套图文并包装成博眼球的“假新闻”通过流量变现；日均生成4000-7000篇每天收入在1万元以上。

就在上个月底小鹏汽车也遭遇了一次典型的AI造假事件。彼时一段以小鹏汽车广州车展展台为背景的低俗色情视频在社交平台快速传播画面里人物的衣着、光影和展台几乎无缝衔接让不少网友信以为真。小鹏汽车法务部介入后警方最终确认视频由一名男子李某利用AI技术生成仅“为炫耀个人技术”并非任何真实事件。造假在这里不再是灰产团队而是一个普通人“顺手试试”的产物。

这种变化让人不安——AI已经把造假的门槛降到几乎与好奇心齐平的位置只需要一次尝试、几句提示词每个人都可能成为“造假者”不是因为恶意而是因为轻易、便利、无成本以及“反正不会怎样”的心理。

平台机制跟不上AI灰产节奏

生成式AI的普及正在把造假变成零门槛、零成本的日常行为。

事实上对于大多数AI助手来说它并不认为满足用户的要求是在协助造假一句“你能让这张图片上的橙子看着像坏了一样吗”它能机灵地给橙子加上霉斑还会主动问你要不要生成一段配套的视频。