为什么 Gated DeltaNet 能扛住 4-Bit 量化：混合 27B LLM 循环部分的 NVFP4 W4A4
Why Gated DeltaNet Survives 4-Bit Quantization: NVFP4 W4A4 for the Recurrent Half of a Hybrid 27B LLM
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
研究团队构建 Minima，对 Qwen3.8-27B（48 层 GDN、16 层注意力）全部 496 个线性层（含 GDN）采用 NVFP4 W4A4 量化。
来源：Hugging Face Daily Papers · arxiv.org