当前位置:首页 > 科技资讯 > 正文

英伟达与Groq达成技术授权协议,Groq创始人团队加入英伟达

圣诞节前夕,芯片巨头英伟达并未停歇,动作频频。

英伟达与Groq达成技术授权协议,Groq创始人团队加入英伟达 英伟达 Groq AI芯片 推理技术 第1张

当日清晨,CNBC独家报道披露,英伟达拟以创纪录的200亿美元巨资,一举拿下AI芯片初创公司Groq。

英伟达与Groq达成技术授权协议,Groq创始人团队加入英伟达 英伟达 Groq AI芯片 推理技术 第2张

然而,后续消息澄清,这并非传统意义上的收购。

Groq官方随即发布声明,确认双方达成的是一项推理技术授权协议。

英伟达与Groq达成技术授权协议,Groq创始人团队加入英伟达 英伟达 Groq AI芯片 推理技术 第3张

与此同时,Groq创始人兼CEO Jonathan Ross(被誉为谷歌TPU之父)、总裁Sunny Madra及其工程团队将集体加入英伟达。

未来,Groq这家初创公司将保持独立运营,并任命新的CEO。

此类合作模式在业内已屡见不鲜,成为“基本操作”,例如Meta与Scale AI、谷歌与Windsurf、微软与InfectionAI等。

英伟达与Groq达成技术授权协议,Groq创始人团队加入英伟达 英伟达 Groq AI芯片 推理技术 第4张

不是收购,是「技术授权」

Groq在官网声明中特别强调,双方达成的是“非独占性”技术授权协议(non-exclusive licensing)。

这意味着英伟达将获得Groq核心推理技术的使用权,并计划未来将其低延迟芯片整合到自身产品体系中。

英伟达与Groq达成技术授权协议,Groq创始人团队加入英伟达 英伟达 Groq AI芯片 推理技术 第5张

此外,Groq将继续独立运营,其云业务GroqCloud不受任何影响,新任CEO将由原财务主管Simon Edwards接任。

截至目前,该交易的具体细节尚未对外披露。

仅有CNBC最初的爆料提及交易金额高达200亿美元级别,堪称英伟达史上最大规模的投资或资产收购交易。

英伟达与Groq达成技术授权协议,Groq创始人团队加入英伟达 英伟达 Groq AI芯片 推理技术 第6张

今年年初,黄仁勋曾在一次采访中表示,“推理需求未来将增长高达十亿倍”。

如今,英伟达宣布与Groq达成协议,后者以专注推理、低延迟芯片而闻名。

这清晰地表明,推理与训练本质上是两种截然不同的计算负载,而GPU并非推理工作的最优解。

英伟达与Groq达成技术授权协议,Groq创始人团队加入英伟达 英伟达 Groq AI芯片 推理技术 第7张

对于不熟悉的人而言,Groq究竟是何方神圣?

Groq:推理专用芯片之王

这家初创公司成立于2016年,由前谷歌TPU首席设计师Jonathan Ross携手一群前谷歌工程师共同创立。

今年9月,Groq完成7.5亿美元融资,估值达到69亿美元。

自成立之初,公司便聚焦AI推理领域,致力于开发高速、低延迟、低成本的AI芯片。

与市面上的GPU、TPU不同,他们开辟了一个全新方向——LPU(语言处理单元)。

2024年初,Groq首款LPU一经亮相,便迅速走红。

Groq每秒可输出500个token,速度秒杀ChatGPT,在当时被誉为全球最快的LLM。

英伟达与Groq达成技术授权协议,Groq创始人团队加入英伟达 英伟达 Groq AI芯片 推理技术 第8张

这款LPU单卡仅配备230MB内存,售价2万美元,在推理任务上速度比英伟达GPU快10倍。

LPU能以惊人速度响应,其工作原理与GPU截然不同。

英伟达与Groq达成技术授权协议,Groq创始人团队加入英伟达 英伟达 Groq AI芯片 推理技术 第9张

在团队公开的论文中,对其架构进行了介绍——

它采用时序指令集计算机(Temporal Instruction Set Computer)架构,这意味着它无需像使用高带宽存储器(HBM)的GPU那样频繁从内存加载数据。

这一特性不仅有助于规避HBM短缺问题,还能有效降低成本。

这种设计使得每个时钟周期(every clock cycle)都能被充分利用,从而保证稳定的延迟和吞吐量。

英伟达与Groq达成技术授权协议,Groq创始人团队加入英伟达 英伟达 Groq AI芯片 推理技术 第10张

论文地址:https://dl.acm.org/doi/10.1145/3470496.3527405

Groq的创新芯片设计实现了多个TSP的无缝链接,避免了GPU集群常见的瓶颈问题,大幅提升了可扩展性。

这意味着随着更多LPU的加入,性能可实现线性扩展,简化大规模AI模型的硬件需求,使开发者更容易扩展应用,而无需重构系统。

总结而言,Groq的LPU专攻低延迟、高效率推理,响应速度极快,能显著降低实时AI应用的延迟。

英伟达与Groq达成技术授权协议,Groq创始人团队加入英伟达 英伟达 Groq AI芯片 推理技术 第11张

这恰恰是当前AI市场从“训练为主”向“推理为主”转型的关键痛点。

在训练阶段,英伟达GPU几乎垄断市场,但推理市场竞争激烈,AMD、谷歌TPU以及多家初创公司都在争抢份额。

Groq的低延迟技术,或将被英伟达视为其产品的完美补充,助其开拓更多市场,进一步巩固在数据中心和AI基础设施领域的霸主地位。

谷歌TPU之父,入职英伟达

如今,全网热议的焦点不仅在于Groq技术本身,更在于其背后的明星级团队。

AI领域知名人士Yuchen Jin直言,这基本上是一次“招聘式收购”。

英伟达与Groq达成技术授权协议,Groq创始人团队加入英伟达 英伟达 Groq AI芯片 推理技术 第12张

创始人兼CEO Jonathan Ross本人,正是被誉为“谷歌TPU之父”的关键人物。

英伟达与Groq达成技术授权协议,Groq创始人团队加入英伟达 英伟达 Groq AI芯片 推理技术 第13张

在谷歌期间,他曾发起一个最初作为“20%项目”的内部创新计划,此后该项目演变为广为人知的Tensor Processing Unit(TPU)。

在此过程中,他亲自设计并实现了第一代TPU芯片的核心架构与关键组件。

随后,Jonathan加入Google X的Rapid Eval Team,这是著名“登月工厂”的早期阶段。

在那里,他为谷歌母公司Alphabet构思、孵化并推进多个全新的Bets(即新业务方向和独立项目)。

英伟达与Groq达成技术授权协议,Groq创始人团队加入英伟达 英伟达 Groq AI芯片 推理技术 第14张

Jonathan高中便辍学,之后通过自学和旁听课程,最终进入纽约大学库朗数学研究所。

值得一提的是,他曾师从深度学习先驱Yann LeCun。

英伟达与Groq达成技术授权协议,Groq创始人团队加入英伟达 英伟达 Groq AI芯片 推理技术 第15张

正如网友所言,这笔交易看起来像是英伟达对谷歌成功使用TPU进行AI训练与推理所做出的直接、迅速回应。

Groq及其团队的加入,从侧面暗示英伟达正强势补齐推理算力短板,旨在未来扩展推理市场的领先优势。

英伟达与Groq达成技术授权协议,Groq创始人团队加入英伟达 英伟达 Groq AI芯片 推理技术 第16张

参考资料:

https://www.cnbc.com/2025/12/24/nvidia-buying-ai-chip-startup-groq-for-about-20-billion-biggest-deal.html

https://www.reuters.com/business/nvidia-buy-ai-chip-startup-groq-about-20-billion-cnbc-reports-2025-12-24/

https://www.bloomberg.com/news/articles/2025-12-24/nvidia-reaches-licensing-deal-with-chip-startup-groq?srnd=phx-technology