（AI 资源之家讯）5 月 10 日，z-lab 推出创新开源项目 DFlash，核心在于引入块扩散机制来优化大语言模型的 Flash 推测性解码过程。该技术通过改进解码策略显著提升模型推理速度并降低计算延迟，附带学术论文支持，展示了 AI 推理优化领域的最新突破。
## 块扩散的核心思路
传统推测性解码采用单 Token 预测——轻量级起草模型每次预测一个 Token，主模型逐个验证。DFlash 的块扩散机制则将预测粒度从单个 Token 扩展到 Token 块。起草模型一次性预测一个由多个 Token 组成的块，主模型对整个块进行并行验证。这种块级操作大幅减少了主模型与起草模型之间的同步次数，降低了验证开销。
## 性能提升的量化
论文显示，DFlash 在多种模型规模和任务类型上均取得了显著的推理加速。与传统的逐 Token 推测性解码相比，DFlash 的加速比提升了约 30% 至 50%，且输出质量无任何下降。在大批量推理场景中（如 API 服务），加速效果更为显著，因为块级操作可以更好地利用 GPU 的并行计算能力。
## 推理优化的竞争升温
DFlash 的发布使 AI 推理优化领域的竞争进一步升温。此前谷歌发布了 Gemma 4 的 MTP 起草器实现 3 倍推理加速，明略的 Cider 也针对 Apple Silicon 进行了推理优化。当大模型从训练竞赛转向推理效率竞赛，推理优化技术正在成为 AI 基础设施的核心竞争力。
正文完
