当前位置:首页 > 科技资讯 > 正文

Claude Opus 4.5挑战人类编程极限,Anthropic公开考题求助

史上最强模型Claude Opus 4.5发布后,全面碾压了人类顶尖工程师,Anthropic公司不得不放弃招聘笔试!现在,Anthropic已将内部考题开源。

就在不久前,人类程序员最后的堡垒被彻底撼动。

Anthropic公司曾准备了一份极难笔试考题,要求应聘者在家完成。

然而,随着Claude Opus 4.5的横空出世,这些考卷变得毫无意义。应聘者轻松应对,无需费心思考。

如今,Anthropic被迫开源了旧版试题,并向全世界发出求助:我们该如何真正测试出人类的编程能力?

Claude Opus 4.5挑战人类编程极限,Anthropic公开考题求助 4.5 Anthropic 编程挑战 AI防御 第1张

作为告别,Anthropic选择将最初版本的测试题发布,作为大众公开挑战。

Claude Opus 4.5挑战人类编程极限,Anthropic公开考题求助 4.5 Anthropic 编程挑战 AI防御 第2张

地址:https://github.com/anthropics/original_performance_takehome

在这个测试题中,候选人需逐步进行多核并行优化、SIMD向量化、VLIW指令打包优化,并用Perfetto trace做分析。

Claude Opus 4.5挑战人类编程极限,Anthropic公开考题求助 4.5 Anthropic 编程挑战 AI防御 第3张

他们依然相信:在无限时间下,最强人类依然能超越Claude的极限。

同时他们强调:如果哪个人类能击败Claude Opus 4.5,请务必联系Anthropic!

Claude Opus 4.5秒杀我们的笔试题

在AI时代,我们该如何进行软件工程师的面试?

Anthropic在这篇博客里,进行了深入探索。

Claude Opus 4.5挑战人类编程极限,Anthropic公开考题求助 4.5 Anthropic 编程挑战 AI防御 第4张

博客地址:https://www.anthropic.com/engineering/AI-resistant-technical-evaluations

曾几何时,Anthropic有一套完美的筛选考题。

但随着AI能力的指数级提升,今天的完美试题可能明天就被新模型秒杀。

例如,自2024年初起,他们的性能工程团队一直在用这套题:要求候选人为一个模拟加速器优化代码。

这套题在1000多名面试者中,筛出了几十个最顶尖的工程师。正是这些人点亮了Anthropic的Trainium集群,发布了从Claude 3 Opus至今的每一个模型。

然而,每个新版本的Claude都在让这套题失效。

测试题的诞生

2023年11月,Anthropic准备发布Claude Opus 3。

新的TPU和GPU集群就位,大Trainium集群即将上线。公司在算力上的投入是过去的数倍,但性能工程师却严重紧缺。

为此,Anthropic公司绩效优化团队负责人Tristan Hume在Twitter上发帖求贤。虽然收到了大量简历,但标准的面试流程太耗时了。

Claude Opus 4.5挑战人类编程极限,Anthropic公开考题求助 4.5 Anthropic 编程挑战 AI防御 第5张

于是,他花了两个星期设计了一个Take-home测试,精准识别出真正硬核的候选人。

设计初衷

为了设计出一个有趣且能吸引候选人的测试工具,Tristan Hume做了精心策划。

相比现场面试,这种形式在评估性能工程技能上更有优势:

  • 时间更充裕: 4小时(后改为2小时)的窗口比50分钟的面试更能反映真实工作状态。
  • 环境更真实: 没有面试官盯着,候选人在自己的编辑器里干活,零干扰。
  • 深度考察: 性能优化需要理解系统、造工具,这在短面试里很难体现。
  • 兼容AI辅助: 明确允许使用AI。因为对于长线难题,AI很难直接给出完美解。

另外,Tristan还构建了一个Python模拟器,模拟了一个具有TPU特征的假加速器。

Claude Opus 4.5挑战人类编程极限,Anthropic公开考题求助 4.5 Anthropic 编程挑战 AI防御 第6张

早期战果:它曾完美工作

最初的效果非常好。一位得分遥遥领先的候选人入职后,立即开始优化算子并解决了一个阻碍发布的编译器Bug。

第一轮崩溃:Claude Opus 4进场

到了25年5月,Claude 3.7 Sonnet已经进化到让一半的候选人只需把题丢给它就能拿高分。

第二轮崩溃:Claude Opus 4.5的降维打击

当Tristan拿到Claude Opus 4.5的预发布版本时,眼睁睁看着Claude Code跑了两小时。它像老练的工程师一样解决了初始瓶颈和常规微优化。