漫步远方，心荡神往

不看新模型发布会，只看开源模型配置文件：先补参数、KV、注意力三块底子，再逐字段拆 15 个国产开源模型。为什么 DeepSeek 把 KV 头压到 1 个却把 head_dim 拉到 512、GLM 的 IndexShare 凭什么让 4 层共用一次索引、Kimi 的 3:1 线性混合到底省的是计算还是显存、Qwen 的混合架构为什么反而更吃显存 - 用公式和 config 里的数组讲清楚。附 1M 上下文单请求的 KV 清单推演。

不翻译官方博客，只谈判断，并逐条对照公开研究校准：为什么 93 层里的 69 层线性注意力是成本工程而非能力工程（Kimi Linear 的 3:1 配方与 75% KV 降幅）；为什么 1M 上下文只取 top-k 2048 暴露了长上下文的真相（NeurIPS 2026 留存曲线：标称长度与留存能力仅 ρ=0.437 相关）；长上下文到底能不能替代 RAG（MBZUAI 的 120 组对照给出反例）；MXFP4 为何成为千亿模型发布的准入门槛（对照 gpt-oss）；以及为什么环境质量才是后训练的胜负手（Endless Terminals 与 WildAWM）。

为什么 GPU 再快也会空转？本文从 CPU 五十五年四次关键转身讲起，盘点 x86 / ARM / 国产三大阵营的主流型号，拆解 CPU 在 AI 推理链路上真正承担的调度职责，并用 gpt-fast 的 torch.compile 实测、Kimi K3 的 Megakernel 融合、vLLM 连续批处理、Grace 的 NVLink-C2C 与 DALI 预处理流水线五个案例，说明 CPU-bound 的三种成因与三条优化路径，附 12 个名词的术语速查卡。

模型量化深度科普（上篇）：先建立全局对比表，再把『地基层』讲透——浮点与定点表示（FP32/FP16/BF16/INT8/INT4/FP8）、浮点到整数的仿射映射 q=round(x/scale)+zp、对称 vs 非对称量化、per-tensor vs per-channel 粒度，以及量化为何能加速、反量化与伪量化。然后进入通用量化范式：PTQ 后训练量化、QAT 量化感知训练、动态 vs 静态量化、校准方法（MinMax/Percentile/KL/MSE）与异常值问题。每个概念给数值示例、公式推导与可运行代码，含一段『从零实现对称/非对称量化与反量化』的教学代码。下篇讲 LLM 专用方案。

模型量化深度科普（下篇）：承接上篇的地基与范式，讲透 5 大 LLM 专用量化方案。LLM.int8()：异常值分离+混合精度分解；GPTQ：基于 Hessian 二阶信息的逐层 weight-only 量化；AWQ：激活感知、保护显著权重通道；SmoothQuant：数学等价把激活量化难度平滑迁移给权重，使 W8A8 可行；NF4+双重量化：QLoRA 的 4-bit NormalFloat，为何比 INT4 更适配正态分布权重。解释为什么 LLM 激活异常值让 W8A8 比 CNN 更难、4-bit 权重量化对显存的决定性影响，配 transformers+bitsandbytes/auto-gptq/autoawq 可运行代码与显存吞吐估算。