漫步远方,心荡神往

深度剖析 NVIDIA 数据中心 GPU:从整机拆解到架构演进(Pascal → Rubin)

一篇讲清 GPU 服务器由什么组成,以及每一代旗舰卡的核心参数

系统梳理 NVIDIA 数据中心 GPU 的发展史:先从整机视角拆解 GPU 服务器的各个组件(GPU Die、HBM 显存、NVLink 互联、NVSwitch 交换、网络、CPU、内存、散热、供电)及其核心能力,再逐代盘点 Pascal / Volta / Turing / Ampere / Ada Lovelace / Hopper / Blackwell / Rubin 的关键技术参数,并附中国特供版说明。数据来自官方 Datasheet 与公开路线图。

一文读懂 PFLOPS 算力:从 FP32 到 FP4,NVIDIA 与华为昇腾算力对比

为什么同一张卡在不同精度下算力差好几倍?

面向大模型时代的算力科普:讲清 FLOPS / TFLOPS / PFLOPS 的单位换算,解释 FP32、FP16/BF16、FP8、FP4 等数值精度的差异与取舍,并以 NVIDIA H100/B200 和华为昇腾 910B/910C 为例,横向对比不同精度下的峰值算力,最后说明峰值算力与真实性能之间的鸿沟。

NVIDIA GPU 系统诊断与运维排查手册:常用命令与一键脚本指南

全面掌握 GPU 系统诊断:从硬件到驱动的一站式排查指南

本文系统整理了在使用 NVIDIA GPU 及其他加速卡时常见的系统诊断工具与命令,覆盖硬件信息、操作系统状态、内核日志、网络互联(OFED/Fabric)、IPMI 管理以及 NVIDIA 专属监控工具(如 nvidia-smi、nvidia-bug-report.sh) 等关键维度,为 GPU 用户提供全面的系统诊断工具箱。

记一次 NVIDIA 卡训练任务出现 OOM 排查过程和解决思路

要求机器配置、驱动、CUDA、PyTorch、大模型、OOM、GPU、容器、虚拟化、内核、存储网络、兼容性、初始化、共享模式等配置相辅相成,排查过程复杂,需综合分析

本次OOM问题表现为GPU显存充足但PyTorch无法申请,具有概率性、偶发性特征。排查覆盖资源限制、容器运行时、GPU插件、CUDA环境、驱动、内核、存储网络等多个层面,排除了主存限制、存储I/O、网络及runtime实现问题。关键线索包括:nvidia-smi显示初始化显存异常(仅4M)、旧内核(3.10)与新驱动(535+)兼容性存疑、GPU共享模式干扰、前后脚本连续执行可能导致CUDA上下文污染。综合判断,问题核心并非真实显存不足,而是CUDA上下文初始化失败或状态异常,由前置脚本隐式加载CUDA、GPU虚拟化干扰、旧内核兼容性不足等多重因素叠加导致,属于“伪OOM”。