DeepSeek DSpark：重点不是新模型，而是推理系统能力
这篇文章从生产系统视角解读 DeepSeek DSpark：半自回归草稿生成、置信度调度验证、线上吞吐和单用户速度提升，以及为什么它应该被理解成推理服务能力，而不是模型能力升级。
主题归档
共 2 篇文章
把 Orca 的 DeepSeek 缓存命中率打到 99%，我做了九轮优化
这篇文章复盘 Orca 针对 DeepSeek Prefix Cache 的九轮缓存优化：从 budget hint 破坏 system prefix，到 volatile 上下文、wire 等价 token 计算、summary state、extractive compaction、remote summary 0% 命中，再到最后用真实 API 评测把主链路稳定到 99% 左右。