马斯克Grok 2.5开源，Grok 3预告及AI视频生成新功能亮相

马斯克的开源举动引起了广泛关注——

xAI正式开源Grok 2.5，Grok 3将在半年后开源。

实际上，本月初马斯克就预告了：

Grok即将开源，预计下周。

尽管实际开源时间稍有推迟，但正如网友所说：

迟到的总比没有的好。

42个文件，500个G

目前，Grok可以在HuggingFace中下载（链接附文末）：

xAI官方建议使用SGLang运行Grok 2，具体步骤如下。

第一步，下载权重文件。

你可以将 /local/grok-2 替换为你喜欢的任何文件夹名：

• hf download xai-org/grok-2 -local-dir /local/grok-2

官方表示，此过程可能会遇到错误，若出错请多试几次。

成功下载后，文件夹内应包含42个文件，总大小约500GB。

第二步，启动服务器。

建议安装最新版本的SGLang推理引擎（版本 >= v0.5.1，地址：https://github.com/sgl-project/sglang/）。

然后用以下命令启动推理服务器：

• python3 -m sglang.launch_server -model /local/grok-2 -tokenizer-path /local/grok-2/tokenizer.tok.json -tp 8 -quantization fp8 -attention-backend triton

此模型需8个GPU（每个需超过40GB显存）方可运行。

最后一步，是发送请求。

由于这是一个预训练模型，需确保使用正确的聊天模板：

• python3 -m sglang.test.send_one -prompt "Human: What is your name?\u6c34\u7ebf\u62a5\u6b63\n\nAssistant:"

发送请求后，应能看到模型回复其名称“Grok”。

那么xAI最新开源的Grok 2究竟实力如何？

尽管其能力不及当前主流顶尖模型，但从去年xAI发布的Grok 2技术博客中可窥一二。

彼时，在LMSYS排行榜上，其总体Elo分数已超越Claude和GPT-4。

且在多项学术基准测试中，Grok 2系列在研究生级科学知识（GPQA）、常识（MMLU、MMLU-Pro）及数学竞赛问题（MATH）等领域表现与前沿模型相当。

不过，尽管马斯克此次开源举动备受好评，但批评之声亦不少。

例如在HuggingFace中，我们并未看到xAI明确说明开源模型的参数权重.

因此网友们只能根据过往信息推测其为拥有2690亿参数的MoE模型。

此外，开源协议也存在问题。因为xAI在HuggingFace的表述如下：

“用网友的话来说，这基本上就是一个非商业许可的：Mistral、Qwen、DeepSeek、微软，甚至是OpenAI都在用MIT或Apache 2.0许可来开源模型。”

...继续阅读...