Google AI：创新者困境与Transformer革命

刚刚听完《Acquired.fm》发布的《Google: The AI Company》完整音频，长达四个小时，信息密度极高，令人震撼。本期节目以25年的时间跨度，详细还原了Google如何汇聚全球顶尖AI人才，发明改变世界的Transformer技术，却又眼睁睁看着自家培养的人才创立OpenAI和Anthropic，最终陷入史上经典的创新者困境。

听完之后，我整理了这份详尽的编译，希望能助你理解这个科技史上引人入胜的案例。

史上经典的创新者困境

设想这样一个场景：

你拥有一家极其赚钱的公司，在全球最大市场中占据90%的份额，被美国政府认定为垄断企业。你的研究实验室发明了一项革命性技术——这项技术比你现有的产品在多数应用场景中都要好得多。

出于“纯粹的善意”，你的科学家们将研究成果发表了出来。很快，创业公司开始基于这项技术构建产品。

你会怎么做？当然是全力转向新技术,对吧?

但问题是：你还没有找到让这项新技术像旧业务那样赚钱的方法。

这就是今天的Google。

2017年，Google Brain团队发表了Transformer论文——这篇论文催生了OpenAI的ChatGPT、Anthropic以及NVIDIA市值的暴涨。整个AI革命都建立在Google的这一项发明之上。

更令人惊讶的是：10年前，几乎所有AI领域的顶尖人才都在Google工作——Ilya Sutskever（OpenAI首席科学家）、Dario Amodei（Anthropic创始人）、Andrej Karpathy（前Tesla AI负责人）、Andrew Ng、所有DeepMind创始人...

这就像在计算机时代的黎明，IBM雇佣了全世界每一个会编程的人。

如今,Google依然拥有最好的AI资产组合：顶级模型Gemini、年收入500亿美元的云服务、唯一可与NVIDIA GPU抗衡的TPU芯片、以及全球最大的搜索流量入口。

但问题依然存在：Google该如何抉择？是冒险全力投入AI，还是保护搜索广告这棵摇钱树？

让我们回到故事的起点，看看Google如何走到今天这一步。

关键时间线

第一章：起源（2000-2007）

微厨房里的对话改变了一切

故事要从2000年或2001年的某一天说起。

在Google的微厨房里，三个工程师正在吃午餐：Google最早的10名员工之一George Herrick、著名工程师Ben Gomes，以及新入职的Noam Shazeer。

George随口说了一句改变历史的话：

“我有个理论——压缩数据在技术上等同于理解数据。”

他的逻辑是：如果你能把一段信息压缩成更小的形式存储，然后再还原成原始形态,那么执行这个过程的系统一定“理解”了这些信息。就像学生学习教科书，在大脑中存储知识，然后通过考试证明理解了内容。

年轻的Noam Shazeer停下了手中的动作：“哇，如果这是真的，那太深刻了。”

这个想法预示了今天的大型语言模型——将全世界的知识压缩到几TB的参数中，然后“解压”还原出知识。

PHIL的诞生：第一个语言模型

接下来的几个月里,Noam和George做了一件最“Google”的事情：他们停下了所有其他工作，全身心投入研究这个想法。

这恰好是Larry Page解雇所有工程经理的时期——每个人都在做自己想做的事。

很多人觉得他们在浪费时间。但Sanjay Ghemawat（Jeff Dean的传奇搭档）说：“我觉得这很酷。”

George的回应令人印象深刻：“Sanjay认为这是好主意，而世界上没人比Sanjay更聪明，所以为什么要接受你认为这是坏主意的观点？”

他们深入研究自然语言的概率模型——对于互联网上出现的任何词序列，下一个词序列出现的概率是多少？（听起来是不是很熟悉？这就是今天LLM的基本原理。）

他们的第一个成果是Google搜索的“你是不是要找”拼写纠正功能。

然后他们创建了一个相对“大型”（在当时）的语言模型，亲切地称之为PHIL（Probabilistic Hierarchical Inferential Learner，概率层次推理学习器）。

第二章：黄金十年（2007-2012）

... (省略部分中间内容以保持文章完整性)