当前位置:首页 > 科技资讯 > 正文

DGX Spark:桌面级AI超算,潜力与挑战并存

DGX Spark,一台配备2000亿参数、3万块人民币投资、128GB内存的“全球最小超算”,它能否让我们在桌面上轻松运行大型AI模型呢?

DGX Spark:桌面级AI超算,潜力与挑战并存 Spark  AI超算 带宽限制 本地AI应用 第1张

DGX Spark:桌面级AI超算,潜力与挑战并存 Spark  AI超算 带宽限制 本地AI应用 第2张

DGX Spark:桌面级AI超算,潜力与挑战并存 Spark  AI超算 带宽限制 本地AI应用 第3张

DGX Spark:桌面级AI超算,潜力与挑战并存 Spark  AI超算 带宽限制 本地AI应用 第4张

不久前,黄仁勋将这台超算赠予了马斯克,并亲自到访OpenAI总部,将另一台赠予了奥特曼。从CES亮相到如今的正式发布,这款个人超算终于要走进我们的日常生活。

DGX Spark:桌面级AI超算,潜力与挑战并存 Spark  AI超算 带宽限制 本地AI应用 第5张

官网信息显示,DGX Spark售价3999美元,并提供华硕、联想、戴尔等七个电脑品牌的发售版本;链接:[NVIDIA DGX Spark Marketplace](https://marketplace.nvidia.com/en-us/developer/dgx-spark/)

NVIDIA DGX Spark,一台面向科研人员、数据科学家和学生的个人AI超级计算机,旨在为他们提供高性能桌面级AI计算能力,助力AI模型的开发与创新。

听起来很强大,但普通用户能想到的应用场景无非:

  • 本地运行大模型:聊天内容仅保存在本地电脑,确保安全。
  • 本地创作:无限制生成图片和视频,无需会员和积分。
  • 打造私人助理:输入个人资料,训练只懂你的“贾维斯”。

DGX Spark:桌面级AI超算,潜力与挑战并存 Spark  AI超算 带宽限制 本地AI应用 第6张

部分显卡租赁平台显示A100的售价为7元/时。

实际上,DXG Spark GB10 Grace Blackwell超级芯片的能力或许可以拓展更多应用场景,但具体能做什么,效果又如何?售价3万块,相当于可以租赁4000小时的A100,你真的会把它放在桌上跑大模型吗?

我们收集了目前网络上关于DGX Spark的多个详细评测,试图在实际体验之前,带大家看看这台设备到底值不值3万块。

核心亮点与不足:

性能定位:轻量模型表现出色,即使面对1200亿参数的大模型也能稳定运行。总体水平介于RTX 5070和RTX 5070 Ti之间。

最大短板: 273 GB/s的内存带宽是限制。算力足够,但数据传输慢。体验就像是一个脑子转得飞快但说话结巴的人。

创新玩法:用一台Mac Studio M3 Ultra来“辅佐”它。DGX Spark负责快速思考,Mac Studio负责流畅表达,强行解决“结巴”问题。

生态丰富:官方提供了超过20种开箱即用的玩法,从生成视频到搭建多智能体助手,AI全家桶都给你配齐了。

DGX Spark:桌面级AI超算,潜力与挑战并存 Spark  AI超算 带宽限制 本地AI应用 第7张

与Mac Mini的对比:

话不多说,先看数据。

DGX Spark:桌面级AI超算,潜力与挑战并存 Spark  AI超算 带宽限制 本地AI应用 第8张

每秒处理填充和解码的平均token数量,DGX Spark排在RTX 5080之后。DGX Spark对比Mac Mini M4 Pro还是要强上不少,尤其是在Prefill阶段。但是在Decode阶段,优势就没有这么明显了。Mac Mini M4 Pro在DeepSeek R1开源模型上的平均TPS能做到17.8,而DGX Spark也才33.1

名词解释:

Prefill(预填充/阅读理解阶段)

AI拿到我们的问题后,快速阅读和理解你输入的每一个字(即提示词)。这个阶段处理得越快,我们等待AI吐出第一个字的时间就越短。

DGX Spark:桌面级AI超算,潜力与挑战并存 Spark  AI超算 带宽限制 本地AI应用 第9张

Decode(解码/生成答案阶段)

就像AI已经想好了答案,开始逐字逐句地打字输出给我们。决定AI打字的速度,也就是我们常说的TPS(每秒生成词元数)。这个数值越高,我们看到答案完整显示的速度就越快。

DGX Spark:桌面级AI超算,潜力与挑战并存 Spark  AI超算 带宽限制 本地AI应用 第10张

TPS是Token Per Second(每秒处理词元数)的简称

Prefill阶段的TPS:代表AI读懂问题的速度。

Decode阶段的TPS:代表AI给我们生成答案的速度。

DGX Spark:桌面级AI超算,潜力与挑战并存 Spark  AI超算 带宽限制 本地AI应用 第11张所以DGX Spark在给我们回答时,第一个字很快能出来,但是后续它的打字速度很慢。要知道,Mac Mini M4 Pro的价格才​元,​版本。