昇腾 950 NPU 架构深度解析

基于华为《昇腾950 NPU 架构白皮书》的深度技术解读。第三代 DaVinci 架构核心变化:Cube/Vector 核分离 + 全精度体系(MXFP4/HiF8/FP8/BF16/TF32),灵衢 2.0 统一互联协议,8192 卡超节点。

July 27, 2026 · 9 min · 1905 words · Me

LLM 系统分析方法论(七):推理服务性能建模

推理服务完整性能建模:从单 token 延迟到多请求并发,覆盖连续批处理、PagedAttention、Prefill-Decode 分离、推测解码、量化部署。含 Llama-70B 完整服务分析和 MoE 模型服务策略。跨 NVIDIA + Ascend 双平台。

June 22, 2026 · 14 min · 2905 words · Me

LLM 系统分析方法论(六):训练通信与掩盖分析

训练通信完整分析:从物理原理到框架实现,覆盖 TP/PP/DP/EP/CP/FSDP2 六种并行维度的通信模式、时间线建模和掩盖策略。含 M3 完整 step time 推演和 Dense 70B/M3 MoE 多场景实战。跨 NVIDIA + Ascend 双平台。

June 22, 2026 · 23 min · 4697 words · Me

LLM 系统分析方法论(五):训练显存估算

训练显存完整估算:从单卡四笔账(权重/优化器/梯度/激活)出发,叠加 TP/PP/DP/CP/EP 并行折扣,结合 ZeRO/FSDP、Gradient Checkpointing、Offload 建立训练显存体系。含 M3 完整案例和多模态/LoRA 微调场景。

June 22, 2026 · 21 min · 4405 words · Me

LLM 系统分析方法论(四):M3 实战推演与 Roofline 模型

MiniMax M3 完整推演:从 config.json 到参数量、FLOPs、KV Cache、推理显存的全链路计算。Roofline 模型分析推理延迟,理解 FP8/INT4 量化的性能收益。

June 22, 2026 · 22 min · 4534 words · Me