漫步远方,心荡神往

快手万擎大模型推理系统 kLLM 全栈优化解析与深度点评

从 MLA 混合并行、分级 KV Cache 到 SLO 驱动大 PD 弹性分离

深度剖析快手万擎大模型推理引擎 kLLM 核心优化体系,包含个人实战点评:解读 MLA+DP Attention/MoE EP 混合并行、Ring Attention 分块流水、DSpark 投机解码、三级 KV Cache 增量前缀树与 SLO 驱动的大 PD 弹性分层架构,提炼大模型规模化落地的系统工程方法论。

把 TTFT 压到极致:大模型推理加速的全景拆解

从架构调度、KV Cache 复用到通信重叠与算子加速的六大方向体系化拆解

系统拆解大模型推理首字延迟(TTFT)的优化全景:从 PD 分离、Chunked Prefill、Continuous Batching 等架构调度手段,到 Prefix Cache、PagedAttention 缓存复用,再到通信计算 Overlap、并行策略与算子加速,提炼降低 TTFT 的完整工程方法论。