DeepSeek开源DSpark推测解码框架
DeepSeek 发布了 DSpark 推测解码框架，该框架能通过半自回归生成架构和置信度调度校验机制加速推理。官方同步开源了训练与评估代码库，以及 DeepSeek-V4 系列附加 DSpark 推测解码模块的 checkpoint。据随附论文，DSpark相较生产基线方案MTP-1，在保持整体吞吐不变前提下为单用户生成速度带来大幅提升。
DeepSeek 发布了 DSpark 推测解码框架，用于通过“草稿生成 + 目标模型校验”的方式加速大模型推理。DSpark 采用半自回归生成架构，将并行 draft backbone 与轻量 sequential head 结合，以缓解并行草稿器后缀接受率下降的问题；同时引入置信度调度校验机制，根据前缀存活概率和引擎吞吐特征，为不同请求动态调整校验长度。DeepSeek 还同步开源了 DeepSpec 训练与评估代码库，以及附加 DSpark 推测解码模块的 DeepSeek-V4-Flash 和 DeepSeek-V4-Pro checkpoint，并提供了完整的训练流程与评估工具链，方便开发者复现和扩展推测解码方案。随附论文称，在 DeepSeek-V4 线上服务中，相较生产基线 MTP-1，DSpark 在同等整体吞吐下将 V4-Flash 单用户生成速度提升 60%–85%，将 V4-Pro 提升 57%–78%。
相关链接：
