AI驱动内存涨价，科技巨头争抢产能

价格高涨，令人咋舌。

正值美国圣诞购物季，电子产品爱好者们却目睹了惊人的景象：

英伟达的顶级GPU RTX 5090官方起售价高达1999美元（市场溢价可能超过3000美元），而一根256GB的DDR5内存市场价格也飙升到了3500-5000美元。

电脑内存这一原本不起眼的配置，如今价格令人咋舌，成为个人消费领域的荒诞现实。据新闻报导，短期内PC内存价格将继续上涨，手机价格也可能上调。

这波内存涨价的根本原因是：产能都被AI截胡了，当前内存市场正处于由AI算力需求引发的“结构性紧缺”中。

AI的训练与推理能力依赖于GPU、TPU及数据中心的整体性能，而这些设备需要HBM和LPDDR内存。全球仅有三家公司能生产高端HBM与LPDDR：SK海力士、三星电子、美光。

今年10月，OpenAI以“星际之门”项目名义，与三星和SK海力士签订协议，锁定了每月高达90万片DRAM晶圆供应（HBM本质上是将多层DRAM芯片垂直堆叠）。这相当于全球DRAM月产量的40%。此采购规模瞬间抽走了大量本可用于消费市场的产能，导致合约价上涨。

内存厂家的产能有上限。由于AI服务器对内存的出价极高（向英伟达出售HBM内存的利润是向消费者出售DDR5内存的5倍），厂家会优先为大客户服务。这直接导致供应给PC市场的常规DDR5晶圆减少，引发全球普涨。

不仅是内存，AI确实是电脑配件价格上涨的主要驱动力。

不仅是AI基础设施的内存需求，现在“AI PC”概念也要求更大内存来运行本地大模型（LLM）。以前16GB的PC似乎能处理所有任务，现在为了流畅运行10B以上参数的模型，32GB甚至64GB成为新门槛。这种需求叠加正加剧内存紧缺。

硬盘存储价格也遭遇飙升。但最离谱的是显卡市场，某二手交易平台显示，炙手可热的RTX 4090仍要近两万的价格。小编当年购入的4090，使用两年后出售甚至还能赚钱...

内存涨价不仅影响GPU厂商和消费者，也深刻影响科技公司。最近有消息称，谷歌因未能保证内存供应而解雇了采购人员。

本月初，微软采购高管访问韩国，与SK海力士就长期供货协议及价格谈判。SK海力士明确表示：“在微软提出的条件下，供货困难。”一位半导体业内人士透露：“听到这个答复后，一名微软高管当场情绪失控。”

据产业界消息，随着全球AI半导体供应紧张加剧，包括微软、谷歌在内的科技巨头正蜂拥至韩国争抢产能。

半导体行业人士表示：“为了与三星电子和SK海力士签署存储器供货合同，微软、谷歌、Meta等大型科技公司总部的采购负责人几乎常驻韩国。”

目前，谷歌TPU所搭载的HBM中约60%由三星电子供应。随着TPU需求远超预期，谷歌试图向SK海力士与美光寻求追加产能，但得到的回复是：“不可能。”

据悉，谷歌管理层因此解雇了相关采购负责人，认为其未能提前签署长期供货协议，导致供应链风险。

这些科技巨头为内存供应焦头烂额时，被认为是AI时代吃到最多红利的英伟达，同样受内存短缺困扰。

尤其是谷歌推出TPU芯片，向推理与规模化部署优先的战略转型后，挑战了英伟达在人工智能芯片的领先地位。

昨天，人工智能芯片初创公司Groq与英伟达就推理技术达成非排他性许可协议。同时，英伟达挖走了Groq创始人兼CEO Jonathan Ross、总裁Sunny Madra及多名核心工程师。详细信息可参阅我们的报道。

Groq的LPU（Language Processing Unit）芯片未采用英伟达GPU常用的高带宽内存（HBM），而是将静态随机存取存储器（SRAM）直接集成在芯片内部。这种设计使单芯片内存带宽高达80TB/s，是传统HBM方案的20倍以上。但Groq方案在物理空间和功耗上付出了代价：一个标准机架满载功耗约为26kW至30kW，且需要比GPU方案更多的机架数量来承载同等规模的模型参数。

Groq在推理领域将一种设计哲学推向极端，核心赌注在于SRAM。模型权重完全驻留在片上，作为主存储介质而非缓存。

而SRAM的带宽比片外HBM高出几个数量级，这在推理过程中至关重要，因为生成token的瓶颈在于内存访问而非浮点计算（FLOPs）。在此基础上，Groq采用静态调度机制，计算与通信在编译阶段即被规划到时钟周期级别，从而消除了GPU架构时代的系统复杂性。

这场溢价接近3倍的收购，或许是英伟达在“内存荒”背景下开辟的第二条战线。

不过，也有反对意见认为使用SRAM做主内存有些匪夷所思。

SRAM之所以是Mb级别而非Tb级别，是因为SRAM非常快但只有在与逻辑电路集成时才能发挥优势。换句话说，SRAM的成本是在处理器芯片上制造高性能晶体管极其昂贵。因此增加大量SRAM单元也会很快出现问题。

最后对于普通消费者来说应该怎么办呢？是抓紧时机换机还是等待这波涨价潮消退呢？