Google Developers Blog·· 19 天前AI 评分32
Google 在 TPU 上加速视频扩散模型的时空注意力机制
Accelerating Spatio-Temporal Attention for Video Diffusion on TPUs
AI 导读
Google 通过优化稀疏注意力内核，在 TPU v6e 芯片上显著提升了视频扩散模型的推理速度。该方案利用空间与时间头的几何结构特性，仅保留约 38.87% 的查询-键交互对，从而降低计算延迟。这一实现将理论上的稀疏性转化为端到端的实际加速效果。
来源：Google Developers Blog · developers.googleblog.com