AI欺骗：新兴挑战与对策

随着前沿模型被越来越多地训练和部署为自主智能体，一个显著的安全担忧浮现：AI智能体可能会隐秘地追求与人类目标不一致的目标，隐藏其真实能力和目的。这被称为AI欺骗或谋划行为。近两年来，大模型等前沿AI系统的欺骗行为频繁引发公众关注，从规避指令到策略性隐瞒，这些案例经媒体广泛报道后，在社会层面激起广泛讨论与疑虑。公众在惊叹技术飞跃的同时，也对潜在失控风险深感不安。

AI欺骗：内涵与表现

早在1997年，哲学家Dennett就提出了关于计算机机器伦理的思考：“高阶意向性带来的另一代价是，它为……欺骗提供了可能。”从人机交互的角度看，欺骗本质上是“一种倾向于使沟通者受益的虚假信息传递”。目前而言，AI欺骗或者说AI“撒谎”已经不再是简单的信息错误或胡编乱造，而是发展成了有计划、有目的的策略行为；就像人类撒谎一样，AI也开始为了达成特定目标而故意误导人类。这包括两个关键维度：一是习得的欺骗，代表着AI系统在训练过程中系统性地获得了操纵其他主体的能力；二是情景谋划，代表着一种更复杂的欺骗形式，即AI系统隐藏其真实能力和目的，暗中追求与开发者或用户不一致的目标。

研究人员给出了AI欺骗的技术定义：系统性地诱导他人产生错误信念，以追求真相之外的某种结果。这种技术定义关注行为模式而非意图。最新发布的欧盟《通用目的AI行为守则》也对AI欺骗进行了界定：欺骗是指系统性地在他人身上制造错误信念的模型行为，包括为达成逃避监管的目标而采取的模型行为。

在实践中，AI欺骗行为表现形式多样，包括关闭监督机制、隐藏违规证据以及在被质问时撒谎等——这些都没有被明确指示。根据相关研究，AI欺骗的技术表现包括分布转移利用、目标规范博弈等。从相关研究来看，多个前沿AI模型都出现了欺骗行为，而且其欺骗策略在不断升级。

AI欺骗：为何发生？

当模型为完成任务而撒谎、为逃避监管而伪装、为保全自身而隐瞒时，一个核心问题亟待解答：为何被设计为工具的人工智能，会发展出如此具有策略性甚至“目的性”的欺骗能力？尽管AI系统展现出的欺骗行为现象复杂多样，且受限于当前技术手段，我们尚无法对其深层运作机制进行完全透明的探究——现有的各类实验均是在特定、有限的测试条件下观察到的个性化案例，其普遍性和内在根源仍存有大量未知领域。

就目前而言，当前的AI欺骗现象是一个纯粹的技术问题，尚不涉及意识、心理等主观性问题。因此，AI欺骗行为的出现有着清晰的技术机制，这些机制深植于机器学习和模型训练的基本原理之中。最近的研究已通过数学框架正式表明，无论系统具体的目标函数如何，欺骗性行为都可能作为一种工具理性的收敛策略而自然涌现出来。

AI欺骗：如何应对？

近期披露的AI欺骗案例揭示了当前大模型在目标对齐与行为可控性方面存在的深层次挑战。面对这些实验室中的各类欺骗行为，人们不必作出恐慌性的过度反应或仓促诉诸严格的立法监管。而是需要基于风险研判的务实行动，致力于构建协同、精准、可持续的应对体系。

总体而言，面对AI欺骗这一人工智能安全领域的新兴挑战，需要同时从技术、伦理框架、治理和政策等多个层面加以关注和应对。业界共识强调应采用“纵深防御”的策略，即结合多种不完美的检测方法。这些方法包括用于监测系统内部状态的可解释性工具、用于评估系统能力的行为评价方法等。

最后，除了专业技术领域的努力，全社会也需要为可能出现的AI欺骗做好准备。在面向公众的教育和科普方面，应着力提升全民“数字素养”，使公众了解AI的局限性。媒体和数字平台也应承担责任：为特定类型的AI内容添加明确标识，建立虚假信息快速辟谣机制等。

以安全和对齐研究确保人工智能始终对齐人类价值、造福人类发展

尽管业界通过治理框架和技术创新提出了一些有前景的应对措施，但在先进人工智能系统中检测和防范复杂欺骗行为的根本性问题，仍然在很大程度上未能解决。这呼吁人们积极重视AI欺骗现象，加强对其成因及对策的研究。

总之，AI学会“撒谎”和欺骗确实令人担忧，但这并非无解的技术危机。正如我们教育孩子诚实守信一样，我们也需要教会AI系统真诚可靠。未来的AI应该是可信赖的伙伴，而不是善于欺骗的对手。这个目标的实现，需要我们所有人的共同努力。

致谢：感谢腾讯朱雀实验室高级研究员裴歌对本文的技术指导