AI发展五大要点：从生成式到AGI的启示

上个月，我在SXSW伦敦站发表了一场题为“关于人工智能，你需了解的五件事”的演讲，分享了我对2025年AI发展的见解。希望这些观点能为感兴趣的人提供一些帮助。这段分享不仅有趣，还包含了一些幽默的内容！

演讲视频已上线（感谢SXSW伦敦站）。以下是我总结的五大要点。如果你有不同的选择，欢迎告诉我！

01.生成式AI的崛起令人警惕

你可能觉得这显而易见。但作为一名从业者，我必须持续审视自己对这项技术发展速度的假设。几个月前，我的同事James O'Donnell分享的音乐案例令人震惊：我们几乎无法分辨哪些是AI创作的，哪些是人类制作的。这变化正蔓延到所有媒介。

我的观点是：无论AI被视为人类历史上最伟大的发明还是最大的威胁，我们都不能低估它。它已经强大且仍在进化。

02.幻觉：特性而非缺陷

别忘了那些AI编造信息的失败案例，我们称之为“幻觉”。例如，客服机器人承诺不存在的退款等。这些现象其实是生成式AI的常态，生成模型被训练来编造信息。

重要的是要清楚这项技术能做什么、不能做什么，并理解未来不会出现“不产生幻觉”的版本。

03.AI能耗极高且持续攀升

AI能耗确实巨大，但这更多源于训练模型的电力消耗，而模型的日常使用能耗远低于训练。然而，随着模型每天被数亿人使用，总能耗急剧上升。

以ChatGPT为例，它成为全球第五大访问量网站，其他聊天机器人也在快速增长。因此，科技公司争相新建数据中心也就不奇怪了。

04.大型语言模型的工作原理仍是谜

我们虽知道如何构建和运行大模型，但它们如何实现功能仍是未解之谜。这就像来自外太空的模型，科学家只能不断试探其本质。

在更深入理解它们之前，我们难以确切知道它们能做什么、不能做什么。

05.AGI的定义模糊且意义不明

谈论AGI曾属于边缘话题，但随着AI技术进步和商业化价值提升，严肃的从业者开始宣称“即将实现AGI”，尽管其定义模糊。AGI指能在广泛认知任务中达到人类水平的AI。

但如何衡量“水平”？以哪些人为标准？任务范围有多广？这本质上是个循环论证。

现在人们提到AGI时，往往只是指“更先进的AI”。

对AI发展的绝对信念存在，但没有任何证据能证明这一趋势必然延续。

那么，我们该如何应对？

机器在模仿人类行为方面已非常出色，但我们仍未摆脱在它们背后想象出一个人类思维的惯性。这导致对人工智能的能力产生夸大的假设，并加剧了科技乐观主义者与科技怀疑论者之间的文化战争。

对这项技术感到惊叹是合理的，对有关它的言论保持怀疑也是合理的。现在仍处于早期阶段，一切皆有可能。

原文来源于：

1.https://www.technologyreview.com/2025/07/22/1120556/five-things-to-know-ai/