Hugging Face Blog·· 2026-05-27精选AI 评分66
TRL 推出 Delta Weight Sync，异步 RL 每步权重传输从 1.2GB 降至 20-35MB
Shipping a Trillion Parameters With a Hub Bucket: Delta Weight Sync in TRL
AI 导读
Hugging Face 在 TRL 中实现 Delta Weight Sync，只把 RL 相邻优化步骤间真正变化的 bf16 权重编码为稀疏 safetensors 文件，上传到 Hugging Face Bucket 后由 vLLM 拉取。
推荐理由
TRL 通过稀疏增量同步把异步 RL 每步权重传输量压缩约两个数量级，并允许 trainer 与推理集群分离部署。
来源：Hugging Face Blog · huggingface.co