Nemotron-3-Ultra 架构 QA

基于 Nemotron-3-Ultra 主报告的配套 QA。覆盖 Mamba-2 SSD 混合架构、LatentMoE 潜空间路由、MTP 投机解码、训练体系等核心主题。

June 12, 2026 · 33 min · 6950 words · Me

Nemotron-3-Ultra 架构深度拆解

Nemotron-3-Ultra 是 NVIDIA 的旗舰开源模型。核心创新为 Mamba-2 SSD(状态空间对偶)混合架构替代传统 Attention、LatentMoE 潜空间路由(256E, k=8)、MTP×1 投机解码。本期拆解 94 层 Hybrid SSM-Attention 架构、SSD 结构化状态空间对偶机制、LatentMoE 路由及完整训练体系。

June 12, 2026 · 28 min · 5891 words · Me