投机解码

投机解码是大模型推理中的常见加速方法：先用较小的模型或其他轻量办法猜出接下来的若干个token，再交给大模型一次性核对，猜对的直接保留，从而在不改变输出质量的前提下提高生成速度。2026年10月，DeepSeek开源的推理框架DeepInfer在功能列表中列出了投机解码。