PyTorch Blog· Han Xu, Jacky Zhou, Jackie (Jiaqi) Xu, Hongtao Yu, Peng Chen (Dev Infra), Darren Liu, Dev (Devashish) Shankar, Max Leung, Nick Riasanovsky, Hao Yan, Manman Ren, Yuanwei (Kevin) Fang·· 5 天前AI 评分48
用 TLX 优化 Jagged Flash Attention：迈向 Blackwell 上的 SOTA FA4
Optimizing Jagged Flash Attention with TLX: The Road Toward SOTA FA4 on Blackwell
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
PyTorch 博客介绍用 TLX（Triton Low-level Extensions）在 NVIDIA Blackwell（B200）上优化 Meta 生成式广告模型 GEM 背后的 Jagged Flash Attention 内核。
来源：PyTorch Blog · pytorch.org