推理与解码

这一组笔记覆盖采样策略、投机解码和 Prefill-Decode 系统拆分。

• 解码策略全景

• 投机解码

• Prefill-Decode 分离架构