OpenAI播客：探讨AGI定义与未来突破

8月16日，在最新一期的OpenAI播客节目中，主持人（前OpenAI工程师）安德鲁・梅恩携手公司的黄金搭档——首席科学家雅库布・帕乔基（Jakub Pachocki）和研究员西蒙・西多尔（Szymon Sidor）共同参与了讨论。

这对搭档不仅回顾了从波兰高中同窗到在OpenAI并肩作战的历程，还深入探讨了人工智能发展的关键议题，包括通用人工智能（AGI）的定义与衡量标准、技术突破的标志性成果、基准测试的挑战，以及AI对教育、科研和社会的实际影响等。

●AGI定义与衡量演进：AGI已从一个抽象概念细化为多维能力的集合。例如，虽然IMO金牌等里程碑具有意义，但点状突破已不足以全面描述其影响。未来应关注其在自动化科研和现实应用中的综合效果。

●AI技术突破轨迹：从早期情感分析的局限性，到GPT系列模型的迭代，这些模型已能参与IMO、ICPC、日本AtCoder等竞赛，展现出强大的推理与创造性思维能力。

●基准测试的挑战与“饱和”：许多基准测试已出现“饱和”，模型性能接近或超过人类水平，但难以全面反映智能的复杂性。衡量标准需转向实际效用与新见解的发现能力。

●AI对教育与人才培养的影响：AI可作为教育辅助工具，但教师的情感支持不可替代；教育需改革，培养结构化思维、批判性思维等软技能，而编程是掌握这些能力的有效途径。

●未来突破方向与信任门槛：模型的持久性、长时间专注问题的能力是重要发展方向；AI需突破信任门槛，在访问个人数据时平衡价值与安全性，避免滥用。

●AI的广泛影响与发展节奏：如同互联网对经济的影响，AI的作用难以用单一节点衡量。虽然短期内看似存在“瓶颈”，但长期来看其进步显著，将深刻重塑行业与社会。

以下是此次播客节目的精华版内容：

安德鲁・梅恩：大家好，我是安德鲁・梅恩。欢迎收听OpenAI播客。今天的嘉宾是OpenAI首席科学家雅库布・帕乔基与高级研究员西蒙・西多尔。我们将围绕人工智能进展的衡量方式、通用人工智能（AGI）的定义，以及下一个可能出现的突破方向展开讨论。

我们的模型已经能够准确识别出自身在某些问题上尚未取得进展。同时，我们也在思考：作为一个组织，我们是否已准备好应对这种快速的发展节奏？在规划OpenAI的研究项目时，我们的目标是创造一种具备高度通用性的智能。

帕乔基：是的，我担任首席科学家一职。我的主要职责是为公司制定研究路线图，即确定我们将押注的技术路径及底层研究方向。

西多尔：我的工作比较繁杂，主要是做独立贡献者的工作，也偶尔承担一些领导职责。总体而言，就是做最有价值的事。

安德鲁・梅恩：你们两人在加入OpenAI之前就认识，对吗？

帕乔基：是的，我们曾就读于同一所高中。

西多尔：没错，是同一所高中。

安德鲁・梅恩：你们在高中时就是朋友吗？

西多尔：我认为我们是在离开高中后才成为挚友的。来到美国的经历，某种程度上是一段建立深厚情谊的情感历程。在高中时，我们更像是学业上的同伴。

1 AGI的演进与衡量标准

安德鲁・梅恩：像ChatGPT这样能即时生成互动多媒体、解决教学问题的能力，该如何定义和衡量？你们会从技术角度和通俗角度如何解释AGI？

帕乔基：以你提到的教学场景为例，ChatGPT确实能发挥重要作用——它可以更清晰地解释概念并提供多样化的教学方式。但人工智能并不能完全取代教师，因为教师还提供情感支持和学习氛围。

安德鲁・梅恩：这一点很重要。人们常说人工智能会取代教育，但这一观点忽略了教师的情感支持。回到AGI的话题，我想先听听非技术性的描述。

帕乔基：几年前谈论AGI时，尽管深度学习技术潜力巨大，但AGI的概念仍较为抽象。现在我们发现这些其实是截然不同的能力。目前，人工智能已能在广泛的话题上进行自然对话并解决数学问题。

2 OpenAI的使命：通用智能优先

安德鲁・梅恩：我想了解一下我们最早可能会看到哪些发现或成果？

帕乔基：在规划OpenAI的研究项目时，我们将创造具有高度通用性的智能视作核心使命。我们优先打造能自动化研究的人工智能系统。

西多尔：人工智能技术在不同领域的应用表现出明显差异。例如，在医学领域，人工智能在医学影像分析、疾病诊断辅助等方面都发挥着越来越关键的作用。

3 基准测试的挑战与未来方向

安德鲁・梅恩：目前基准测试面临一些问题。其中一个问题是“饱和”，即模型在许多标准化测试中已达到人类水平。

帕乔基：我们需要关注这些模型的实际效用，尤其是它们发现新见解的能力。

4 AI发展的根本

安全可靠比功能更重要

安德鲁・梅恩：你认为未来可能会有哪些重大突破？

帕乔基：我认为不能低估“扩展”的重要性。增强模型的持久性、让它能长时间专注于一个复杂问题将是下一步发展方向。

5 对年轻人的建议：推荐学习编程

西多尔：一定要学习编程。编程是一种非常珍贵且会持续保值的技能。