扩散模型逆袭：蚂蚁LLaDA2.1开启高速高质量生成新时代

出乎意料，当自回归模型（Autoregressive，AR）仍是主流时，一个非主流架构的模型——扩散语言模型，竟然在复杂编程任务中飙出了892 tokens/秒的惊人速度！

你没看错，当主流大模型还在以几十token的速度逐字蹦词时，这个非主流模型已经在100B参数规模上，展现出了如此惊人的速度。

2025年，蚂蚁集团资深技术专家赵俊博带着LLaDA2.0登上量子位MEET大会的舞台，如今，他们的最新版本LLaDA2.1来了，蚂蚁技术研究院重磅开源！

三个月前，在LLaDA2.0时代，这更多是一个充满挑战的研究性模型。

如今，LLaDA2.1的诞生，标志着这个路线的历史性转折。它不再只是一个“学术研究”，而是真正可用、甚至在效率上更为优越的强大工具。

那么，在整行业都在卷更大的自回归模型时，蚂蚁是如何低调修了另一条“能跑通的高速公路”的呢？

接下来，我们就一起探索这个非共识技术背后的奥秘。

如何实现？

在深入技术之前，我们先得聊聊为什么现在的ChatGPT、Claude们总是慢条斯理。

因为它们几乎全部采用自回归架构，这种模式如同一个不能打草稿的考生，必须从左到右、一字一句地生成文本，写完即定稿，无法回头修改。

而扩散模型的理论优势在于并行，可以同时处理所有文本位置，理论上能一次成篇，拥有巨大的速度潜力。

一个模型两种模式设计，把怎么用模型的权力交给用户

基于可纠错编辑的底层能力，LLaDA2.1引入了灵活的双模式解码策略，实现了单个模型同时支持极速与质量两种模式：

• Speedy Mode（极速模式）：大幅降低τ_mask阈值，激进并行生成初稿，依赖T2T编辑进行后期修正。适合代码草稿、快速推理、多轮试探式生成等对吞吐量敏感的场景。
• Quality Mode（质量模式）：采用保守阈值，减少编辑次数，优先保障输出准确性。适合正式文档生成、高精度推理等对结果质量要求严苛的场合。

可纠错编辑，让模型像人类一样“写作+修改”

为了理解双模式背后的机制，我们可以回忆一下自己写作的流程。

自回归模型如同不允许带草稿纸、不允许带提纲的作者，它下笔无悔，不允许修改自己写好的内容。

但现实中，我们可能是先写草稿，哪怕有错别字，先动笔写着；写完之后，再回头细读一遍，把不通顺的、有错别字的地方改掉。

LLaDA2.1的工作原理正是如此，引入的机制叫做可纠错编辑（Error-Correcting Editable，ECE）。

• 阶段一（M2T, Mask-to-Token）：模型以极高的速度并行生成一个草稿。这个阶段可能会有一些噪声和错误，但速度极快。
• 阶段二（T2T, Token-to-Token）：立即启动编辑模式。模型站在全局视角对生成的草稿进行检查。如果发现某些token置信度低或者逻辑不通就进行回溯式修正。