漫步远方,心荡神往

深度剖析 DeepSeek-V4.1-Flash:把长上下文的成本曲线重写一遍

从 CED、CSA2、FP4 KV、SWA Bounded Replay 到 890 字节/token 的系统级降本

DeepSeek-V4.1-Flash 技术报告深度图解:以 14 张结构化示意图,系统拆解 Causal-Encoder-Decoder(CED)架构、CSA2 三维联合压缩与 Full/Reindex/Reuse 三模式、分层稀疏索引器、FP4 Main KV + SWA Bounded Replay 的缓存层次、552B MoE + 196B Engram + DeepSeek-ViT 原生多模态、Head-wise Muon/Sinkhorn 优化器分工、45T token 预训练与 1M 上下文扩展、SFT→RL→OPD 后训练与 DSec 异步 RL、Reasoning Effort 可控推理及能力边界。

快手万擎大模型推理系统 kLLM 全栈优化解析与深度点评

从 MLA 混合并行、分级 KV Cache 到 SLO 驱动大 PD 弹性分离

深度剖析快手万擎大模型推理引擎 kLLM 核心优化体系,包含个人实战点评:解读 MLA+DP Attention/MoE EP 混合并行、Ring Attention 分块流水、DSpark 投机解码、三级 KV Cache 增量前缀树与 SLO 驱动的大 PD 弹性分层架构,提炼大模型规模化落地的系统工程方法论。

把 TTFT 压到极致:大模型推理加速的全景拆解

从架构调度、KV Cache 复用到通信重叠与算子加速的六大方向体系化拆解

系统拆解大模型推理首字延迟(TTFT)的优化全景:从 PD 分离、Chunked Prefill、Continuous Batching 等架构调度手段,到 Prefix Cache、PagedAttention 缓存复用,再到通信计算 Overlap、并行策略与算子加速,提炼降低 TTFT 的完整工程方法论。

AI-Infra:构建支撑大规模训练与推理基础设施平台

解析 GPU 异构算力调度、训推引擎与工程落地实践

深入解析 AI-Infra 基础设施平台架构:从 GPU 异构算力管理、高性能网络存储,到训练框架与 vLLM/SGLang 推理引擎集成,系统探讨支撑大模型训推工程落地与持续演进的系统工程实践。

国内近期开源大模型调研与核心技术解析

对比 DeepSeek-R1、Qwen2.5、GLM-4 架构设计与推理效率

调研分析国内开源大模型生态发展现状:系统梳理 DeepSeek-R1、Qwen2.5、GLM-4 等代表性模型的架构设计、强化学习 RL 方案、推理效率与国产 GPU 适配实践。