当前位置:首页 > 科技资讯 > 正文

Mac集群新飞跃:AI性能跃升与商业潜力

Mac集群新飞跃:AI性能跃升与商业潜力 Mac集群 AI性能 神经网络加速器 雷雳5 第1张

集群部署 本地运行

将多台高端Mac Studio并联,能否打造价值上百亿的AI模型?这听起来或许不可思议,但Apple Silicon正赋予苹果这样的自信。

此前,牛津大学的Alex Cheema与Seth Howes创建的Exo Labs公司,已用两台Mac Studio成功运行百亿级模型。苹果显然也留意到了这一成果,并在最新的macOS 26.2 Beta中加强了AI能力,正是瞄准了Exo Labs所展示的——Mac集群化部署。

在新版macOS 26.2 Developer Beta中,苹果带来了两项重大改进:

一是苹果开发的开源阵列框架MLX可调用M5处理器的神经网络加速器

二是Mac集群可使用基于雷雳5协议的高速传输通道

神经网络加速器普及化

在最新的14寸MacBook Pro中,苹果为M5处理器采用了3nm N3P工艺,并在GPU核心中加入神经网络加速器,实现了本地模型的高效运行。而macOS 26.2中更新的MLX框架,则让包括第三方AI模型在内的更多应用能利用这一加速器。

MLX是苹果为Apple Silicon特化的开源阵列框架,旨在让开发者在macOS程序中部署和微调AI模型,实现纯本地运行。这样一来,开发者就能在app中利用M5的神经网络加速器提高响应速度,并保留对模型的微调能力。

Mac集群新飞跃:AI性能跃升与商业潜力 Mac集群 AI性能 神经网络加速器 雷雳5 第2张

这一更新尤其利好目前无法使用Apple Intelligence的Mac用户。而且,随着MLX的助力,Mac的整体AI能力还将进一步提升。

这也为macOS 26.2 Beta中的另一项AI升级奠定了坚实基础。正如Exo Labs的“Mac集群”方案所示,借助动态负载分配规则,Mac的本地AI性能几乎达到了硬件上限。

Mac集群新飞跃:AI性能跃升与商业潜力 Mac集群 AI性能 神经网络加速器 雷雳5 第3张

macOS 26.2 Beta进一步提升并解锁了Mac的能力上限,为类似Exo Labs的本地AI工具提供了更广阔的发展空间。

那么,苹果是如何在不改变硬件的前提下提升Mac的本地AI性能的呢?答案是优化Mac集群间的数据传输方式。

雷雳5的无限可能

在之前的Exo Labs版本中,物理连接、拓扑网络建立等工作都依赖雷雳5信道。然而,尽管雷雳5规格很高,macOS却只能通过TCP-IP连接各台Mac。

Mac集群新飞跃:AI性能跃升与商业潜力 Mac集群 AI性能 神经网络加速器 雷雳5 第4张

TCP-IP并非专为AI集群优化,尤其是“并行AI计算”对带宽和延迟要求极高,TCP-IP的节点间延迟会被进一步放大。而macOS使用TCP-IP进一步导致Exo V2即使能借助统一内存加载巨大模型,也只能采用低效的“管线并行”方式分配负载。

现在,这一瓶颈终于得到解决——苹果开发了一套新的基于雷雳5的macOS连接协议,大幅改进了传输延迟。这意味着每块M3 Ultra处理器都能直接调度全部统一内存池。

Mac集群新飞跃:AI性能跃升与商业潜力 Mac集群 AI性能 神经网络加速器 雷雳5 第5张

值得注意的是,这一方案效果类似RDMA(远程内存直接访问),但无需设置以太网卡或光模块,完全依赖现有雷雳5硬件。

这一改变极大优化了Exo V3的节点间通讯延迟问题,使其能在最新软件中实现“张量并行”分配。相比“TCP-IP + 管线并行”,新方案能优化负载分配效率,进一步提升每秒生成的token数。

Mac的AI价值在商业领域

macOS 26.2 Beta主要在提升Mac AI能力上做了“提升式”更新。一方面让第三方模型能用上M5芯片的新特性;另一方面提升Mac组集群的效率。虽然不如高性能服务器那般令人兴奋,但苹果正悄悄为生态建设积攒能量。

四台顶配M3 Ultra Mac Studio就能本地运行近似GPT-4规模的巨型模型。虽然对个人用户而言可能不划算,但对企业用户来说却极具吸引力。出于商业保密和细分需求考虑,很多企业会选择本地部署AI功能。

对于这些高敏感数据,企业的AI功能需求往往必须“纯本地化”。

然而,选择本地部署会迅速陷入“水多加面、面多加水”的循环。这时,集成了CPU、GPU、共用内存等的Mac Studio就显得极为突出——不仅空间和散热规模低、成本最大的用电接近腰斩,而且保留了所有纯本地运行AI模型的优势。

意外之喜

用Mac搭集群、本地跑AI的有趣之处在于:这不像苹果深思熟虑的产品战略,倒像是一个双向奔赴的意外。

最初设计Apple Silicon时,苹果追求的是统一架构、电脑能效比和跨端体验的一致性,并未考虑AI模型会成为行业主题。然而运行本地模型、隐私数据管控等需求在2025年逐渐凸显。

Mac集群新飞跃:AI性能跃升与商业潜力 Mac集群 AI性能 神经网络加速器 雷雳5 第6张

正是这两者的碰撞造就了今天Mac作为“本地AI工作站”的无法替代的价值。此外,macOS 26.2 Beta是纯软件更新,所有支持雷雳5的Mac机型都能受益。买Mac Studio的用户会发现设备价值倍增——这台当初为剪视频、做设计而买的工作站,现在也能运行万亿参数的大模型了。