AGI十年之路：挑战与乐观并存

AGI并非明日黄花，亦非虚无缥缈。Karpathy直言：通往AGI之路已现，却布满荆棘——强化学习信号稀薄、模型崩溃风险、环境与评估匮乏、系统集成与安全难题等。他给出了一个「乐观而不煽情」的时间表：十年。

近日，OpenAI的元老级人物、特斯拉前深度学习负责人Karpathy公开表示：AGI的实现尚有十年之遥。

Karpathy批评了业界对AI智能水平的过高估计，但同时他认为通向AGI的路径已经显现，但这条路并不平坦。

Karpathy详细列举了实现AGI的诸多难题：

为何强化学习如此低效（而其他方法更为糟糕），

为何模型崩溃会阻碍大语言模型像人类一样学习，

为何AGI只会融入过去约2.5个世纪以来每年约2%的GDP增长趋势，

为何自动驾驶耗时良久才得以攻克。

这些问题颇具挑战性，因此实现AGI大约还需十年。这一观点被广泛解读为对AI的悲观预测，为当前的AGI狂热泼了一盆冷水。

马斯克挑战Karpathy迎战Grok 5

马斯克认为，Karpathy的某些观点确实有道理。

然而，马斯克话锋一转，点名Karpathy与Grok 5进行编程对决，类似于国际象棋大师卡斯帕罗夫与深蓝的对决时刻。

不过，Karpathy拒绝了马斯克的挑战，并表示：

我宁愿与Grok 5合作，也不愿与之竞争

考虑到马斯克认为目前Grok 5实现AGI的概率只有10%，但要Grok 5在编程上挑战Karpathy。

或许，AI初创Yuchen Jin的推文能解释马斯克为何这样做：

马斯克用他的「现实扭曲立场」，在推动xAI团队实现「不可能的目标」。

智能体工程师Dan Mac表示，Karpathy断言现在正处于LLM炒作的「幻灭低谷期」。

这更像是一种现实主义：与其一较高下，不如打磨好工具。

Karpathy的辩白

总体而言，十年应是对AGI非常乐观的时间表，只是与当下的炒作相比，它显得不那么「鼓舞人心」。

十年很短

关于通用人工智能（AGI）的时间线，这是目前讨论中最受关注的部分。

人工幽灵智能：AGI=Artifical Ghost Intelligence？

Karpathy怀疑是否存在「一条极其简单的算法，让它丢进世界就能从零学到一切」。

强化学习不是全部答案

在博客中，Karpathy说，现在的强化学习就像「通过吸管吸取监督」——模型尝试多种方法，只得到一个「对错」信号，然后将这个信号传播给成功路径的每一步。

认知内核与「反事实」练习

关于LLM智能体（Agents）

工作自动化与物理学教育