跳到正文
@OpenBMB· @OpenBMB · X·· 23 天前AI 评分44
AI 导读

端侧个人智能体,在 MacBook Air M2(16GB)上本地运行。 @PaulGugAI 把 MiniCPM5-2B 接入 Hermes Agent——96k 上下文,20–24 tok/s,日常任务的工具调用表现扎实。不是要取代大型 SaaS。 只是一个快速的本地模型,实力超出体量,几乎什么设备都能跑。这就是我们想要的端侧方案。⚡🙌

正文

On-device personal agent, running locally on a MacBook Air M2 (16GB).
@PaulGugAI put MiniCPM5-2B behind Hermes Agent — 96k context, 20–24 tok/s, and solid tool calling for everyday tasks. Not a giant SaaS replacement.
Just a fast local model that punches above its weight and runs on almost anything. This is the edge setup we wanted. ⚡🙌

来源:@OpenBMB · x.com