Hugging Face Daily Papers·2026-10-06 08:00· 1 天前AI 评分42

TRACE：面向 MoE 语言模型 FP4 强化学习的 rollout 引导量化感知训练

TRACE: Rollout-Guided Quantization-Aware Training for FP4 Reinforcement Learning of MoE Language Models

本站未展示全文，请前往来源网站阅读。

AI 导读

TRACE 是面向 MoE 语言模型 RL 训练的 FP4 量化框架，通过 rollout 侧量化结果引导训练侧 FP4 舍入决策，直接缩小训练与 rollout 两条量化执行路径的差异。