deepseek-ai/DeepSpec

它是什么

DeepSpec 是一个用于 speculative decoding 的全栈代码库，不是单一脚本。它把数据准备、草稿模型实现、训练和评测串成一条流程，解决的是“如何训练 draft model 并验证它在基准任务上的接受率”这个问题。 它主要面向需要研究或实现 speculative decoding 的开发者、研究者和算法工程人员。README 明确要求按阶段顺序运行，每一步的输出都会供下一步使用。

为什么值得关注

这个项目不是只给概念，而是直接给出能跑通的训练与评测链路，适合想复现实验过程的人。榜单里它热度上升明显，说明围绕 speculative decoding 的工程化实现受关注。

核心能力

• 下载提示词并重新生成目标答案
• 构建用于训练的 target cache
• 提供 draft model 的实现代码
• 训练草稿模型对齐缓存的目标输出

适合谁用

• 研究 speculative decoding 的算法实现者
• 需要复现训练与评测流程的工程人员
• 想搭建 draft model 实验管线的开发者

使用前注意

• 数据准备阶段额外需要推理引擎来服务目标模型
• README 提醒 target cache 体积可能很大
• 项目要求按数据准备、训练、评测的顺序执行
• 许可证为 MIT

README 证据

• “full-stack codebase for training and evaluating draft models for speculative decoding”
• “contains data preparation utilities, draft model implementations, training code, and evaluation scripts”
• “Data preparation additionally requires an inference engine to serve the target model”
• “Run the stages in order — each stage's output feeds the next”