跳到正文
Google Developers Blog·· 21 小时前精选AI 评分64

Google 开源端侧 GPU 推理引擎 ML Drift

ML Drift: Next-Gen GPU AI/ML Inference at the Edge

阅读原文

本站未展示全文,请前往来源网站阅读。

AI 导读

Google AI Edge 团队以 Apache 2.0 协议开源 ML Drift,一个跨平台端侧 GPU 计算引擎,作为 LiteRT 的核心 GPU 加速引擎,支持 OpenGL ES、OpenCL、Metal 和 WebGPU。

推荐理由

Google 官方发布端侧 GPU 推理引擎并开源,读者可以据此评估端侧 LLM 与视觉工作流的迁移和性能收益。

来源:Google Developers Blog · developers.googleblog.com