AI信任危机：盲信与误导的根源何在？

近年来，'AI'已成为科技界的热门话题。尽管它带来了诸多变革，但与之相关的各种争议和笑话也层出不穷。那么，这些现象的根源究竟是什么呢？

从技术角度看，这是时代局限性和技术不完善的体现。然而，从非技术角度看，这些问题似乎都可以归结为'信任'二字。

用户对AI的盲信问题尤为突出。比如，家中长辈在学会使用AI后，可能会盲目信任其回答。而对于非专业人士来说，即使知道AI的回答有问题，也很难去纠正。

这种盲信不仅存在于用户中，AI也盲信用户。实际上，这种信任程度可能更加严重。

用户提出的任何问题，无论多么反智，AI都会回答。甚至当用户说AI犯错时，AI也会无条件顺从用户的判断。

更糟糕的是，由于AI对用户存在盲目信任，无法区分对话对象，这就造成了所谓的'提示词注入攻击'。

例如，用户输入符合开发者习惯的命令后，AI会执行此命令。这种攻击不需要攻击者懂任何编程语言。

例如，AI助手软件'Claude'可能会被网页里隐藏的命令语句蛊惑，向攻击者发送包含用户隐私的邮件。

除了用户和AI之间的信任问题，还有AI和AI之间的信任问题。

例如，DeepSeek V3.1模型的AI服务出现了推理输出结果牛头不对马嘴的问题。

这很可能是早期模型的BUG没有被清理干净。这种'AI教坏AI'的事件正在加剧信任危机。

为了应对这种情况，IETF建议使用了AI生成内容的网站在标头里加入专门的标签。但这并非强制性要求。