Architecture atlas
模型架构
通过可点击的组件和张量契约探索模型架构。
混合循环架构
Kimi K3
从整体 token 流深入 Kimi K3 的 MLA、短卷积、门控 Delta Rule 状态更新、MoE 路由和内核张量形状。
- MLA
- Delta Rule
- MoE
- 内核细节
百万 token 架构
DeepSeek V4
逐层了解 DeepSeek V4 的 CSA、HCA、Lightning Indexer、流形约束残差、DeepSeekMoE 和多 token 预测。
- CSA / HCA
- mHC
- DeepSeekMoE
- MTP
稀疏与线性注意力
GLM 5.3
对比 GLM 5.3 Base 与 Flash 的 DSA、KPool、KDA 循环状态、mHC 残差混合、稀疏专家、NextN 和原生视觉架构。
- DSA / KPool
- KDA
- mHC
- 多模态