在 TPU 上加速视频扩散模型的时空注意力

Google 分享了在 TPU 上把视频扩散模型稀疏注意力从理论稀疏转化为端到端加速的案例研究。81 帧 720p 视频的序列长度达 50K 至 400K，从 720p 升到 1440p 序列长度翻两番，全注意力在单层延迟中占比可从 55.5% 升至 88.2%。