Runway 如何用 GPU 点对点广播将模型冷启动提速 60 倍

Runway 构建了 NCCLBack 系统，让新 GPU worker 直接从已加载权重的对等节点通过 GPU 互联接收权重，而非从云存储重复下载，将模型冷启动时间从数分钟缩短到数秒，冷启动时间不再随集群规模线性增长。该系统基于 NCCL broadcast 原语，配合 Redis 队列做节点发现，并包含传输与完整性校验层。