Ilya重磅访谈：Scaling时代终结，AI研究新时代来临

Ilya重磅访谈曝光！1个半小时，全程2万字，他惊人观点：Scaling时代已终结，我们正迈向研究新时代。

Scaling时代真的结束了！

Ilya一出现，金句频出。还记得NeurIPS 2024上，他曾宣告：「预训练时代终结」。

这一次，Ilya在镜头前平静地说出这句话时，整个AI圈都屏息以待——

我们已从Scaling时代，正迈向研究新时代。

在这场与著名主持人Dwarkesh Patel的深度访谈中，Ilya几乎揭开了当前AI研究最刺痛的真相：

不仅是预训练，就连Scaling Law这条路，也被他判了「缓刑」——还能继续走，但绝不会通向AGI！

他还指出，今天的模型再强，泛化能力也远远配不上其参数量和Benchmark的分数，甚至远逊于人类。

最关键的是，Ilya已对技术缺失的环节形成清晰的思路，但选择暂不公开更多细节。

这场长达1个半小时对谈，Ilya还探讨了SSI战略、AI模型泛化能力提升关键，以及AGI未来的发展路线。

核心亮点一览：

当前技术路线后劲不足——模型虽持续改进，但无法实现AGI

真正可行的系统架构我们至今尚未掌握构建方法

核心瓶颈：泛化能力，而模型在此领域远逊人类

即便用所有编程竞赛题目训练模型，它仍无法形成真正的「解题直觉」

评估分数光鲜亮丽，但实际性能滞后——RL训练最终演变为对评估指标的过度优化

真正的奖励机制黑客，实则是设计这些基准测试和研究循环的科研人员

ASI可能在5-20年内降临

这场对话，将成为这一年，或许更远未来的序章。

预训练遇瓶颈，AI与现实脱节

访谈伊始，Ilya Sutskever感慨道，「想到这一切都是真的，真的有点疯狂」！

住在湾区，经常看到「拿出美国1%GDP投AI、某某公司又投xx美元」这类疯狂的事，就像科幻小说的情节。

奇怪的是，一切又好像没有什么变化。

AI模型在智力上实现了飞跃，但它们对经济的实际渗透却慢得多。

Ilya坦言，这正是当前AI令人困惑、最矛盾的一点：

在各种基准评测中，AI模型性能的表现几乎「超乎人们的想象」，但在真实世界中，它却常常犯一些让人抓狂的错误。

情绪价值函数

那么，人类的「天赋」是什么？为什么比模型泛化更强？

在对话中，有一段核心观点非常发人深省——

人类的学习能力，不仅仅来自经验，还来自自进化硬编码的「价值函数」。

Scaling时代终结，现在是「研究时代」

超级智能，还有5-20年

"