跳到正文
Berkeley AI Research·· 2026-07-29精选AI 评分62

K-Search 框架实现从 CUDA 到 MLX 的内核优化知识迁移

From CUDA to MLX: How K-Search Brings Decades of Kernel Expertise to Apple Silicon

AI 导读

Berkeley AI Research 团队扩展 K-Search 框架并引入 MLX 后端,通过结构化 CUDA-to-MLX 翻译层自动迁移内核优化知识。该方法在 Apple Silicon 上使 Attention 内核达到原生 MLX 的 0.97x 速度,并在 Mamba SSM 内核 prefill 阶段相比社区实现获得最高 20x 加速。

推荐理由

原文展示了通过结构化翻译层将 CUDA 优化知识迁移至 Apple Silicon 的方法,实现了接近专家级的内核性能。

来源:Berkeley AI Research · bair.berkeley.edu