跳到正文
原文
LMSYS Blog· SGLang RL Team, InfiXAI Team, Ant Group Asystem & AQ Infra Team, slime Team, RadixArk Team·· 2026-01-26AI 评分46

SGLang RL 团队实现 INT4 QAT 端到端训练:1TB 模型单卡 H200 部署

Squeezing 1TB Model Rollout into a Single H200: INT4 QAT RL End-to-End Practice

AI 导读

SGLang RL 团队联合 InfiXAI、蚂蚁集团等团队,在 slime 框架上落地了 INT4 QAT 端到端方案,训练用 fake quantization、推理用 W4A16,实现与 BF16 全精度相当的训练-推理一致性。

来源:LMSYS Blog · lmsys.org