AI 导读
新的 MiniMax 稀疏注意力与 DeepSeek V3.2（DSA）和 V4（CSA）的对比 主要变化： - 基于 GQA 而非 MLA - 像 CSA 那样进行块级选择，但注意力是在真实的 KV 上计算的，而非在压缩维度上
正文
new minimax sparse attention compared to deepseek v3.2 (DSA) and v4 (CSA)
main changes:
- based on GQA not MLA
- block level selection like in CSA but attention is done on the real KV, not in the compressed dimension
Something BIG is coming在 X 查看被引用的帖子
来源：@eliebakouch · x.com