AI for Data🔥7.0

Google ML Drift 加速多样GPU上的端侧AI推理

原标题: Google ML Drift 加速多样GPU上的端侧AI推理

InfoQ·2026/10/25 17:00:00🔗 原文

📋总体概括

Google开源了ML Drift,一个跨平台GPU计算引擎,专为端侧AI与机器学习推理设计,采用Apache 2.0许可证。它通过抽象层屏蔽不同GPU硬件与底层API的复杂性,同时支持OpenGL ES、OpenCL、Metal和WebGPU四大图形/计算接口,让开发者用一套代码在手机、桌面与浏览器等多种设备上跑推理,降低端侧AI的适配门槛。

⚡关键信息

  • ▸Google开源ML Drift,定位为端侧AI与ML推理的跨平台GPU计算引擎,采用Apache 2.0许可证
  • ▸支持OpenGL ES、OpenCL、Metal、WebGPU四种后端API,覆盖移动端、桌面端与浏览器场景
  • ▸核心卖点是抽象不同GPU硬件与底层API的复杂性,实现一套代码多端运行
  • ▸发布由InfoQ报道,作者为Sergio De Simone,属于Google端侧AI生态的补强动作

🔥犀利点评

端侧推理的痛点从来不是算力,而是碎片化——OpenGL、Metal、WebGPU各立山头,开源社区和创业公司被迫重复造轮子。Google拿出Apache 2.0的跨平台引擎,本质是想把端侧AI的基础层收编进自己的生态,类似当年TensorFlow Lite的打法。对开发者是减负,对竞品是施压,WebGPU后端则暗示了浏览器内AI推理的野心。

本文由本站自动聚合,以下为原始来源:前往 InfoQ 阅读全文 →