Google开源ML Drift并发布LiteRT Tensor API
先了解这件事
Google AI Edge 团队开源了面向边缘设备的 GPU 计算引擎 ML Drift,采用 Apache 2.0 许可证。该引擎作为 LiteRT 的核心加速组件,通过张量虚拟化和统一着色器技术支持 OpenGL ES、OpenCL、Metal 和 WebGPU 等跨平台接口,旨在解决硬件多样性带来的兼容性与性能瓶颈。目前其加速功能已在独立的 LiteRT 包中可用,并将集成到 Google Play Services 的 LiteRT 中。 随后,Google 发布了 LiteRT Tensor API,允许开发者使用 C++ 逐算子构建计算图,并在 CPU、GPU 和 NPU 上直接运行而无需重写代码。该 API 支持从 Hugging Face .safetensors 文件直接加载权重,并通过共享加速器缓冲区实现预处理、推理和后处理的零拷贝流水线。
AI 根据报道生成 · 1 小时前更新
事件进展
2 个进展
- 10月19日 08:00 · 1 篇报道LiteRT Tensor API发布Google Developers Blog:Google 发布 LiteRT Tensor API 支持端侧原生模型编写
- 10月8日 08:00 · 1 篇报道Google AI Edge Team 开源发布 ML Drift GPU 推理引擎Google Developers Blog:Google 开源 ML Drift:面向边缘设备的下一代 GPU AI/ML 推理引擎
报道时间线
沿着报道,了解事件的不同侧面。
- Google Developers Blog精选Google 发布 LiteRT Tensor API 支持端侧原生模型编写
Google 推出 LiteRT Tensor API,允许开发者使用 C++ 逐算子构建计算图,并在 CPU、GPU 和 NPU 上直接运行而无需重写代码。该 API 支持从 Hugging Face .safetensors 文件直接加载权重,并通过共享加速器缓冲区实现预处理、推理和后处理的零拷贝流水线。
- Google Developers Blog精选Google 开源 ML Drift:面向边缘设备的下一代 GPU AI/ML 推理引擎
Google AI Edge 团队发布并开源了高性能跨平台 GPU 计算引擎 ML Drift,采用 Apache 2.0 许可证。该引擎作为 LiteRT 的核心加速组件,通过张量虚拟化和统一着色器支持 OpenGL ES、OpenCL、Metal 和 WebGPU,解决了边缘设备硬件多样性带来的兼容性与性能瓶颈。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。