邓志杰在CNCC 2026讲解扩散语言模型加速方法

上海交通大学副教授邓志杰在 CNCC 2026 以“扩散大语言模型方法及应用”为题发表演讲，讨论能否在保证生成质量的同时让扩散语言模型生成得更快，内容覆盖 LLaDA、Dream 的基础路线，跨块并行 D2F 与 MultiBD，后训练方法 CForce 与 LightningRL，以及 Fast-dLLM、LoPA 等推理优化。 他给出的测试数据均绑定具体设置：在两张 H100、单样本、张量并行度为 2 时，MBD-LLaDA2-Mini 达到约 746 TPS；在两张 H20、张量并行度为 2、单样本时，GSM8K 和 HumanEval 上的速度分别约为 1232 和 1353 TPS；在 LLaDA-Instruct、GSM8K 5-shot、生成上限 256、单张 A100 且批量为 1 的实验中，两项方法结合使速度从 6.7 提高到 54.4 TPS，准确率从 79.3% 变为 78.5%；在 MBPP 测试中，结合 LoPA 的分布式推理引擎，单样例请求生成速度达到 1073.9 token/s。

AI 根据报道生成 · 42 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。