跳到正文
MarkTechPost· Asif Razzaq·· 20 天前AI 评分43

Nunchux AI 推出 VC-Attention:免训练低比特注意力内核加速视频 Diffusion Transformer

Nunchux AI Introduces VC-Attention: A Training-Free Low-Bit Attention Kernel That Speeds Up Video Diffusion Transformers

阅读原文

本站未展示全文,请前往来源网站阅读。

AI 导读

Nunchux AI 发布免训练低比特注意力内核 VC-Attention,针对视频 Diffusion Transformer 的值量化误差与 FP32 softmax 瓶颈,在 B200 上比 SageAttention2 快 6.02×,H200 上快 1.16×。

来源:MarkTechPost · marktechpost.com