Ornith-1.0-397B 架构 QA
Ornith-1.0-397B 架构 50 问,覆盖总参/激活/KV Cache、hybrid attention 3:1 设计、512E top-10 MoE、self-scaffolding RL、reward hacking 防御、位置编码及推理部署。
Ornith-1.0-397B 架构 50 问,覆盖总参/激活/KV Cache、hybrid attention 3:1 设计、512E top-10 MoE、self-scaffolding RL、reward hacking 防御、位置编码及推理部署。
Ornith-1.0-397B 是 DeepReinforce AI 的 frontier-scale agentic coding 模型。核心创新在 self-scaffolding RL 后训练方法,架构层面继承 Qwen3.5-MoE:60层 hybrid attention(45线性+15 full)、512路 top-10 MoE FFN、1层 MTP 辅助头、256K 原生上下文、27层 ViT。本期完整拆解 397B 规模配置、FLOPs/KV Cache/推理显存、self-scaffolding RL 框架、reward hacking 防御及异步 GRPO 训练体系。
基于 GLM-5.2 主报告的配套 QA(27 问)。覆盖 GLM-5.1 → 5.2 演进、IndexShare 核心创新、MTP 四重改进、1M 上下文工程、训练与性能。
GLM-5.2 是智谱 AI 2026 年 6 月发布的旗舰 Agent 模型。核心创新为 IndexShare(1 full + 3 shared DSA Indexer 复用,降低 75% Indexer 计算量)、MTP 四重改进(KVShare + Stride + EMA + Score Boost)、1M 可用上下文、Agentic RL 升级。
基于 MiniMax-M3 主报告的配套 QA。覆盖 MSA 多阶段稀疏注意力、GQA 配置、MoE 路由、视觉编码器、MTP 投机解码、训练体系等核心主题。