GLM-5.1 架构 QA

基于 GLM-5.1 主报告的配套 QA。覆盖三代演进、DSA 动态稀疏注意力、MLA 潜 KV 压缩、MoE 路由(256+1, k=8, scaling=2.5)、异步 Agent RL 训练体系等核心主题。

June 11, 2026 · 53 min · 11082 words · Me

Mimo-V2-Flash 架构 QA

基于 Mimo-V2-Flash 主报告的配套 QA。覆盖 Hybrid Dispatch MoE 路由、MTP×2 投机解码、SwiGLU FFN 等核心主题。

June 11, 2026 · 17 min · 3621 words · Me

Mimo-V2-Flash 架构深度拆解

Mimo-V2-Flash 是小米 Mimo 团队的开源 MoE 模型。核心创新为 Hybrid Dispatch(Sink+Bias 双机制)MoE 路由、MTP×2 投机解码、SwiGLU FFN 等。本期拆解整体架构、混合路由机制、MTP 设计及与同期模型的对比。

June 11, 2026 · 19 min · 3962 words · Me

MiniMax-M2.7 架构 QA

基于 M2.7 主报告的配套 QA。覆盖五代演进、Full Attention 回归、GQA+QK Norm、MoE 路由(sigmoid+routing bias)、MTP×3、训练体系等核心主题。

June 11, 2026 · 7 min · 1374 words · Me

Qwen3.5-MoE 架构 QA

基于 Qwen3.5-MoE 主报告的配套 QA。覆盖混合注意力(GDN+Full Attention)、Gated DeltaNet 线性注意力、2048 专家 MoE、262K 上下文等核心主题。

June 11, 2026 · 10 min · 1978 words · Me