当前位置:首页 > 科技资讯 > 正文

微软发布自研AI推理芯片Maia 200,性能卓越引领AI时代

芯东西1月27日报道,近日,微软宣布推出其自研的AI推理芯片Maia 200,声称这是“迄今为止所有超大规模数据中心中性能最高的自研芯片”,旨在显著提高AI模型生成的经济效率。

Maia 200采用台积电3nm工艺制造,拥有超过1400亿颗晶体管,并配备了原生FP8/FP4张量核心。其重新设计的内存子系统包含216GB HBM3e(读写速度高达7TB/s)和272MB片上SRAM,以及能够确保海量模型快速高效运行的数据传输引擎。

专为低精度计算设计的Maia 200,在FP4精度下每块芯片可提供超过10PFLOPS的性能,在FP8精度下则提供超过5PFLOPS的性能,所有这些性能均在750W的SoC TDP范围内实现。

微软发布自研AI推理芯片Maia 200,性能卓越引领AI时代 Maia 200  AI推理芯片 自研芯片 微软 第1张

▲Azure Maia 200、AWS Trainium3、谷歌TPU v7的峰值规格对比

Maia 200重新设计的内存子系统以窄精度数据类型、专用DMA引擎、片上SRAM和用于高带宽数据传输的专用片上网络(NoC)架构为核心,从而提高了token吞吐量。

在互连方面,Maia 200提供了2.8TB/s的双向专用扩展带宽,高于AWS Trainium3的2.56TB/s和谷歌TPU v7的1.2TB/s

Maia 200也是微软迄今为止部署的最高效推理系统,每美元性能比微软目前部署的最新一代硬件提升了30%

01.

能运行当前最大模型,将支持GPT-5.2

据微软博客文章所述,Maia 200能够轻松运行当前最大的模型,并为未来更大的模型预留了充足的性能空间。

作为微软异构AI基础设施的一部分,Maia 200将支持多种模型,包括OpenAI最新的GPT-5.2模型,从而为Microsoft Foundry和Microsoft 365 Copilot带来更高的性价比。

微软发布自研AI推理芯片Maia 200,性能卓越引领AI时代 Maia 200  AI推理芯片 自研芯片 微软 第2张

▲Maia 200芯片

Maia 200与微软Azure无缝集成。微软正在预览Maia软件开发工具包(SDK),该工具包含一套完整的工具,用于构建和优化Maia 200模型。

SDK功能齐全,包括PyTorch集成、Triton编译器和优化的内核库,以及对Maia底层编程语言的访问。这使开发者能够在需要时进行细粒度控制,同时实现跨异构硬件加速器的轻松模型移植。

微软超级智能团队将利用Maia 200进行合成数据生成强化学习,以改进下一代内部模型。

微软发布自研AI推理芯片Maia 200,性能卓越引领AI时代 Maia 200  AI推理芯片 自研芯片 微软 第3张