漫步远方，心荡神往

快手万擎大模型推理系统 kLLM 全栈优化解析与深度点评

从 MLA 混合并行、分级 KV Cache 到 SLO 驱动大 PD 弹性分离

深度剖析快手万擎大模型推理引擎 kLLM 核心优化体系，包含个人实战点评：解读 MLA+DP Attention/MoE EP 混合并行、Ring Attention 分块流水、DSpark 投机解码、三级 KV Cache 增量前缀树与 SLO 驱动的大 PD 弹性分层架构，提炼大模型规模化落地的系统工程方法论。

Posted by tanjunchen on Saturday, August 1, 2026

AI-Infra：构建支撑大规模训练与推理基础设施平台

解析 GPU 异构算力调度、训推引擎与工程落地实践

深入解析 AI-Infra 基础设施平台架构：从 GPU 异构算力管理、高性能网络存储，到训练框架与 vLLM/SGLang 推理引擎集成，系统探讨支撑大模型训推工程落地与持续演进的系统工程实践。

Posted by tanjunchen on Saturday, February 21, 2026

国内近期开源大模型调研与核心技术解析

对比 DeepSeek-R1、Qwen2.5、GLM-4 架构设计与推理效率

调研分析国内开源大模型生态发展现状：系统梳理 DeepSeek-R1、Qwen2.5、GLM-4 等代表性模型的架构设计、强化学习 RL 方案、推理效率与国产 GPU 适配实践。

Posted by tanjunchen on Saturday, January 31, 2026

2026 新年快乐（Happy New Year）

新年的钟声已经敲响，我们迎来了充满活力与奔赴感的 2026 马年！🎉 感谢过去一年里的陪伴与支持，新的一年，愿我们策马前行，奔赴更远的目标，收获更多值得铭记的美好时刻。🌟 祝愿大家在 2026 马年： 🐎 身体健康，精力充沛，步伐坚定； 🐎 事业顺利，马到成功，一路加速； 🐎 家庭幸福，温暖相伴，岁月安然； 🐎 心想事成，所行皆坦途，所愿皆可期！愿所有的努力都不被辜负，所有的梦想都能快马加鞭、如期抵达。让我们怀揣热爱，迎风奔跑，共同书写马年更加精彩的篇章！马年大吉，新春快乐，万事如意！ 🎊🎁

Posted by tanjunchen on Thursday, January 1, 2026

聊聊 LLM 推理加速常见手段

从 KV Cache 优化、FlashAttention 算子到量化与投机采样

全面盘点大模型推理优化加速核心手段：涉及 KV Cache 优化、FlashAttention/FlashDecoding 算子加速、Quantization 量化（AWQ/FP8）、Speculative Decoding 投机采样以及 Continuous Batching 调度算法。

Posted by tanjunchen on Saturday, December 13, 2025