Toggle navigation
漫步远方,心荡神往
All Posts
LEARNING
ARCHIVE
ABOUT
漫步远方,心荡神往
155 万亿 Tokens/天是怎么跑出来的:拆解 DeepSeek V4.1 Flash 推理系统
从 EPD 分离、Wide-EP、72 小时 KVCache 到按时间切分的 Prefill 调度
以 DeepSeek V4.1 Flash 推理系统公开的 Blog 与 Q&A 为基础,用 11 张自绘示意图(含封面)和可复算的例子,拆解 EPD 分离、Wide-EP 的 roofline 依据、Block/SWA 两层 KVCache、3FS 10+2 EC 与 GDR、SWA Bounded Replay 的 128-token 近似、Prefill 二次代价模型反解、异步调度与变长投机、EPLB 的最大负载目标,以及 $38/卡·时的第三方成本测算。官方口径与推算分开表述,附部署风险提示。
Posted by
tanjunchen
on Saturday, November 14, 2026
Software Developer