Berkeley AI Research·· 2026-07-29精选AI 评分62
K-Search 框架实现从 CUDA 到 MLX 的内核优化知识迁移
From CUDA to MLX: How K-Search Brings Decades of Kernel Expertise to Apple Silicon
AI 导读
Berkeley AI Research 团队扩展 K-Search 框架并引入 MLX 后端,通过结构化 CUDA-to-MLX 翻译层自动迁移内核优化知识。该方法在 Apple Silicon 上使 Attention 内核达到原生 MLX 的 0.97x 速度,并在 Mamba SSM 内核 prefill 阶段相比社区实现获得最高 20x 加速。
推荐理由
原文展示了通过结构化翻译层将 CUDA 优化知识迁移至 Apple Silicon 的方法,实现了接近专家级的内核性能。
来源:Berkeley AI Research · bair.berkeley.edu