Together AI 将 ThunderKittens 适配 NVIDIA Vera Rubin NVL72，NVFP4 GEMM 突破 22 PFLOPS
To Infinity and Beyond: ThunderKittens Now on NVIDIA Vera Rubin NVL72!
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
Together AI 的 kernels 团队在 NVIDIA Vera Rubin NVL72 上为 ThunderKittens 加入 NVFP4 和 FP8 GEMM 支持，将 NVFP4 内核从仅达 roofline 42.1% 提升至超过 22 PFLOPS，性能对标 cuBLAS 和 CuTE DSL。
来源：Together AI Blog · together.ai