AI芯片革命：TPU v7成本大降70%，引发行业大变革

近日，高盛发布了一份重磅报告，揭示了AI芯片领域的重大变革。

报告发布于1月20日，题为《Inference Cost Curve: Comparing AI Compute Solutions (GPUs vs. ASICs)》，直译为《推理成本曲线：AI 计算方案对比（GPU vs. ASIC）》。

报告的核心观点令人震惊：随着谷歌和博通（Broadcom）最新一代TPU v7芯片的量产，其单位算力的推理成本竟然暴降了70%。

01

这70%的降幅，到底意味着什么？若仅看硬件参数，或许有人会觉得这只是芯片的一次常规升级。

然而，高盛想强调的是，这70%的降幅，本质上是在物理规则层面打破了行业的原有逻辑。

要理解这一点，我们需先区分“推理”与“训练”这两个概念。

过去两年，AI行业处于“造车”阶段，即训练大模型。谁的算力强，谁就能率先造出顶级模型，如“布加迪”。

当时，英伟达的H100/H200是首选，尽管价格高昂，但因其速度最快，仍被广为采用。

如今，情况已大不相同。模型基本构建完成，进入“跑车接客”阶段，即模型推理。此时，老板们最关心的是每公里的成本。

高盛这份报告的独到之处在于，它不再讨论速度，而是聚焦于“推理成本”。

那么，这70%的成本是如何节省的呢？

通常，芯片升级性能提升20%-30%已属罕见。TPU v7凭什么能一举降低成本70%？高盛分析师给出的答案是“系统工程能力的绝对碾压”。

打个比方：英伟达的GPU像一辆超级跑车，追求极致速度，但油耗高、散热大。而谷歌的TPU v7则像一列高铁，单节车厢动力或许不如超跑，但整体效能却大不相同。

在速度上，高铁或许稍逊超跑，但若要运送大量乘客（处理海量数据），高铁的人均能耗远低于超跑。

具体来说，这70%的成本红利源自三个维度：一是数据传输效率大幅提升；二是封装更紧凑，减少信号损耗；三是架构更专一，只用于特定计算任务。

02

如果说TPU v7的70%降幅仅是实验室数据，那么Anthropic砸出的210亿美元大单则是这一趋势的现实证明。

没错，210亿美元。这一概念有多夸张？2024年全球一半AI初创公司融到的资金加起来才够这个数，而且这笔钱还不是一次性支付。

据高盛报告和市场消息，这份采购单覆盖从2025年底开始，一直到2026年甚至更久的定制芯片（ASIC）采购周期。

很多人好奇Anthropic哪来这么多钱？别忘了它背后有谷歌、亚马逊两大巨头支持。

尤其是谷歌，本身就是Anthropic的二股东。这笔钱对谷歌来说不过是左手倒右手。谷歌投资Anthropic，后者通过博通将资金转换为定制TPU算力。

Anthropic为何如此折腾？因为它早已看清AI商业化的未来。

以前的大模型公司被视为“算法天才”，但深入剖析其账本会发现，他们本质上是英伟达的“打工仔”。

融来的钱80%都变成了芯片订单，还得排队等货、承受高溢价。哪个资本机构受得了？

因此，Anthropic敢于砸下这210亿美元，是为了三件事：一是实现从“租房”到“买地”的飞跃；二是掌握“算力主权”，确保供应确定性；三是追求软硬一体极致体验。

03

高盛报告中，博通的地位尤为突出。因为在AI芯片的新战场上，博通完成了从“芯片设计公司”到“AI军火商总装厂”的跃迁。

现在博通成了各大科技厂的“白手套”+“代工厂”。

谷歌TPU v7的核心互联技术、亚马逊Trainium的设计、Anthropic的210亿美元大单都与博通有关。

其商业模式比英伟达更灵活。英伟达卖整卡赚高毛利但风险也大；而博通走“NRE + 量产分成”路线。

NRE即定制研发费。大厂找博通做定制芯片需先付巨额研发费无论成功与否这笔钱都是博通的。若芯片量产每卖一颗博通还能抽成。

这意味着博通无论成败都稳收钱而英伟达必须卖出芯片才能赚钱。

在经济下行时谁的生意更稳一目了然。大厂为何离不开博通？因为现在的AI芯片比拼的是“连接”能力。

除了制程TPU v7最核心的是博通的光互连技术和CoWoS封装能力。简单来说博通用独门技术将几百个芯片高效堆叠在一起且不发热、数据传输顺畅。

04

对中国而言这套ASIC崛起、算力大幅降本的逻辑意味着什么？

“制裁”反倒倒逼出中国版的ASIC加速潮。

许多人认为中国AI被卡脖子因为拿不到英伟达芯片。但换个角度看这反倒逼着我们提前走上谷歌、亚马逊的道路。

既然买不到最强通用GPU那就只能死磕专用芯片。

华为昇腾、字节、腾讯、百度都在悄悄自研芯片逻辑与Anthropic完全一致：“既然通用芯片买不到、也买不起那干脆为自己的模型量身定做。”

高盛报告中TPU v7降本70%的事在中国正以更激进的节奏上演。对中国企业来说这是生死存亡的问题。

结语

“真正的机会只属于有核心壁垒的公司。”