SGLang 与 Miles 在 NVIDIA Vera Rubin 上的推理与 RL 训练实践
SGLang and Miles on NVIDIA Vera Rubin
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
LMSYS 团队在 NVIDIA Vera Rubin 节点（8 GPU）上跑通 SGLang 推理与 Miles RL 训练，并针对 Kimi K3 NVFP4 优化 attention、MoE 通信与 KDA kernel。
来源：LMSYS Blog · lmsys.org