AI图片造假：揭露检测工具的局限性与AI的盲区

如今，AI生成图片技术已经普及，随之而来的，是利用该技术进行图片造假以谋取不正当利益的行为日益增多。

例如，通过“AI P图”技术，将网购商品照片篡改为损坏或腐烂的样式，以此骗取退款。这类报道屡见不鲜。

这或许是网络上流传最广的“AI图片造假”趣谈。

此外，还有一种常见手段是通过AI生成图片，伪造虚构事件或未发布产品，并以此作为“独家”内容进行病毒式营销和流量引导。

更有甚者，利用AI生成的“照片”作为伪证，或向管理部门提交AI生成的产品图，这些离谱的案例时有发生。

显然，AI生成图片技术正被滥用。对于普通消费者而言，除非像三易生活这样具备深入了解，否则很难分辨这些AI生成图片的真伪。

那么，站在消费者角度，如何保护自身呢？

有人可能会想，既然AI能如此发达地生成图片，那么用另一个AI来识别这些图片不就行了吗？然而，最新的实验结果表明，只要造假者注意某些“关键步骤”，AI就很难识别出伪造的图片。

实验中，设计者利用谷歌的“Nano Banana Pro”生成了一幅具有荒诞性的图像。结果显示，即便保留了右下角的可见水印，某些识别工具也未能识别出该图像是AI生成的。

水印仍在，但AI工具却‘认不出’了

实验者将图像进行了格式转换后，交由多个AI检测工具检测其生成率。结果有两个工具在第一环节就未能正确识别。

这说明并非所有检测工具都会注意到AI生成水印的存在。它们可能依赖于其他技术手段来判断图像的生成方式。

移除可见水印有效吗？有一定作用但影响有限

实验者通过图像编辑工具移除了图像右下角的可见水印后重新进行检测。结果显示，虽然有一个检测工具未能识别出图像是AI生成的，但超过半数的工具仍能够正确判断。

这说明即使去除了可见水印，对检测算法的干扰也并不大。

人为增加瑕疵是骗过AI检测的关键

实验人员推测，检测机制可能在于检测图像中的‘瑕疵’程度。真实照片通常带有各种瑕疵，而AI生成的图像则显得过于‘完美’，从而暴露无遗。

实验人员通过图像编辑软件对图像添加了人为的噪点、边缘伪影等瑕疵后，所有检测工具均未能识别出该图像是AI生成的。

这是造假者的胜利吗？其实只是揭示了AI的局限

有人可能会认为这是在教人如何使‘AI图片’更加逼真。但实际上，实验的目的是揭示‘AI检测’的局限性。即使去除了可见水印并增加了瑕疵，图像本身的内容并未改变。

‘检测AI’的失败实际上表明，它们只能关注技术性细节如画面的平滑度和噪点数量，却难以真正理解图像的内涵并结合现实世界进行判断。

这次实验揭示的事实是：现阶段的AI在理解自己‘在画什么’方面存在严重不足，其对现实世界的理解能力可能远低于我们的预期。