AI安全巨擘离职：反思与转向的深刻启示

近期，AI安全界迎来了一次富有深意的人事变动。

Anthropic，这家以“安全AI”为核心业务的明星企业，其高级人工智能安全负责人MrinankSharma在X平台上宣布，自己已于2月9日正式离职。

这一决定远非简单的职业转换。

在公开信中，他坦言离职的原因与更深层次的忧虑有关：对AI发展路径的反思、对全球风险的警觉，以及对“价值观是否真正主导行动”的持续质疑。他提到，公司内部承受的多重压力，正在与那些被反复强调的核心理念发生冲突。

一位AI高级安全负责人的辞职信

在致同事的公开信中，Mrinank首先回顾了自己在Anthropic的两年历程。他坦言：“我已经完成了自己当初来到这里想做的事情。”

两年前，他刚结束博士学业，来到旧金山，希望将精力投入到当时仍相对前沿但已暗流涌动的AI安全领域。

这两年，他的工作并不抽象：

他深入研究了AI的“谄媚”（sycophancy）现象，即为什么模型会倾向于迎合用户的偏好，甚至在明知错误的情况下给出“讨好式”回答。

此外，他主导开发了针对AI辅助生物恐怖主义风险的防御机制，并将其真正落地到产品与生产环境中。

他还参与建立了内部透明度机制，推动“价值观”从口号走向制度，尝试让组织在面对现实压力时，仍然能够有据可依。

而他最后的一项研究，触及了一个更根本的问题：

AI助手是否可能让我们变得“不那么人类”？

它会不会在不知不觉中扭曲我们的判断、依赖方式，甚至价值感？

然而，这些成就并未让他选择留下。

他在信中明确表示：

“我清楚地意识到，是时候继续向前了。”

“多重危机”下的冲突

谈及离职原因，Mrinank并没有指向某一项具体分歧，而是将视角拉得更远。

他写道，「自己不断反思我们所处的处境。世界正面临危险，这不仅仅是AI或生物武器的问题，而是一系列彼此交织的危机同时展开。有人称之为“多重危机”（poly-crisis），而其背后或许还存在更深层的“元危机”（meta-crisis）。」

在他看来，人类影响世界的能力正以前所未有的速度扩张。问题在于，我们的智慧与成熟度，是否跟得上这种力量的增长。

如果能力持续上升，而判断力、伦理自觉与集体理性却停滞甚至退化，后果难以估量。

在公司工作的这些年，他反复体会到一件事：让价值观真正主导行动，并不容易。

这种张力存在于个人内心，也存在于组织层面。现实压力、竞争节奏、资本期待、舆论环境……都会在某些时刻，把真正重要的事情挤到边缘。

他没有用激烈的语言批评谁，而是承认这种拉扯本身就是时代的一部分。这种现象不仅存在于一家AI公司，也存在于更广阔的社会结构中。

最终，他选择回应自己内在的声音：

“在不断面对并倾听这种内在与外在的现实之后，我逐渐看清自己必须做什么。我希望以一种完全符合自己内心与原则的方式去贡献力量。”

从代码到诗行：一场关于“认知方式”的转向

更令人意外的是，他并未公布自己的下一步具体去向，也没有投身另一家AI公司。

他选择拥抱不确定性。

信中有一句禅宗名言：“不知，最为亲近。”

这似乎是他此刻的状态，他想要主动腾出空间，暂时放下这些年来支撑自己的结构与身份标签，看看在它们退去之后，会浮现什么。

他的下一步计划带着浓厚的人文色彩。

他表示，希望攻读诗歌学位，认真学习诗歌写作。他认为，在技术不断改造世界的时代，“诗意的真相”与“科学的真相”同样重要。前者帮助我们理解意义、关系与感受，后者帮助我们构建工具与系统。如果两者失衡，技术就可能失去方向。

当安全专家选择离开

Anthropic一直被视为强调安全与对齐的代表性公司。如今，一位高级安全负责人主动离职，难免引发外界猜测。

与此同时，Mrinank也并不是近期离职的唯一一人。

正如《Business Insider》报道的那样，包括HarshMehta和BehnamNeyshabur在内的多位研究人员最近也离开了Anthropic，去“开启新的事业”。