MiniMax-M2.7 架构 QA

基于 M2.7 主报告的配套 QA。覆盖五代演进、Full Attention 回归、GQA+QK Norm、MoE 路由(sigmoid+routing bias)、MTP×3、训练体系等核心主题。

June 11, 2026 · 7 min · 1374 words · Me

Qwen3.5-MoE 架构 QA

基于 Qwen3.5-MoE 主报告的配套 QA。覆盖混合注意力(GDN+Full Attention)、Gated DeltaNet 线性注意力、2048 专家 MoE、262K 上下文等核心主题。

June 11, 2026 · 10 min · 1978 words · Me