跳到正文
原文
Hugging Face Blog·· 22 天前AI 评分49

基于 Hugging Face Jobs 的异步 GRPO:用 LoRA、Storage Bucket 和代理替代 NCCL

Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL

AI 导读

TRL v1.14 的 AsyncGRPOTrainer 现已支持只训练并同步 LoRA adapter 到 vLLM,rank-1 adapter 仅几 MB,可通过各 Job 挂载的 Storage Bucket 传输,无需 NCCL。

来源:Hugging Face Blog · huggingface.co