跳到正文
Google Developers Blog·· 11 天前精选AI 评分80

Google 开源 ML Drift:面向边缘设备的下一代 GPU AI/ML 推理引擎

ML Drift: Next-Gen GPU AI/ML Inference at the Edge

AI 导读

Google AI Edge 团队发布并开源了高性能跨平台 GPU 计算引擎 ML Drift,采用 Apache 2.0 许可证。该引擎作为 LiteRT 的核心加速组件,通过张量虚拟化和统一着色器支持 OpenGL ES、OpenCL、Metal 和 WebGPU,解决了边缘设备硬件多样性带来的兼容性与性能瓶颈。

推荐理由

原文给出了跨平台 GPU 引擎的架构升级与实测数据,读者可以据此判断其对端侧 AI 部署效率的具体提升。

来源:Google Developers Blog · developers.googleblog.com