跳到正文
OpenBMB· @OpenBMB · X·· 2 小时前AI 评分42
AI 导读

在 iPhone Air 上跑到 37 tok/s,相当惊人。🚀 这正是小型、能力强的开源模型大放异彩之处:无需云端 GPU 就能拥有强大的多模态智能。很高兴看到 MiniCPM5-2B 在移动端流畅运行。

正文

37 tok/s on an iPhone Air is pretty wild. 🚀

This is exactly where small, capable open models shine: strong multimodal intelligence without needing a cloud GPU. Great to see MiniCPM5-2B running smoothly on mobile.

引用NobodyWho@nobodywho_ai
Running MiniCPM5 from @OpenBMB on iPhone Air at 37 tok/s. One of the best open models at 2B parameters, now available in the NobodyWho Chat app.
在 X 查看被引用的帖子

来源:OpenBMB · x.com