https://pillumina.github.io/tags/csa/ Recent content in Csa on CctoctoFX https://pillumina.github.io/imgs/icon_head.png https://pillumina.github.io/imgs/icon_head.png Hugo -- 0.148.2 en Wed, 10 Jun 2026 00:00:00 +0000 https://pillumina.github.io/posts/qa/deepseek-v4-flash-qa/ Wed, 10 Jun 2026 00:00:00 +0000 https://pillumina.github.io/posts/qa/deepseek-v4-flash-qa/ 基于 V4-Flash 主报告的配套 QA，共 287 问。覆盖 LLM 预备知识、V3.2→V4 演进、注意力系统（CSA/HCA）、MoE 路由（Aux-Loss-Free/Sinkhorn-Knopp）、残差与优化器（mHC/Muon）、上下文与量化（1M/RoPE/FP4/FP8）、训练与推理部署。由浅入深，可作面试准备。 https://pillumina.github.io/posts/architecture/deepseek-v4-flash/ Wed, 10 Jun 2026 00:00:00 +0000 https://pillumina.github.io/posts/architecture/deepseek-v4-flash/ V4-Flash（284B 总参 / 13B 激活）是 DeepSeek 2026-04-24 发布的旗舰 MoE 模型。核心创新为 CSA+HCA 混合稀疏注意力（长上下文 1M 支持）、62 层 384 专家 MoE、mHC 多通道残差替代 Pre-Norm、Muon 正交化优化器。本期完整拆解 V3.2→V4 演进、稀疏注意力双引擎、8 类 gating 负载均衡对比、FP4+FP8 混合量化，以及 13 类架构组合的 4D Parallelism 部署策略。