AI 导读
Liquid AI 发布 LFM2.5-8B-A1B,这是一个面向手机、笔记本、PC 和机器人的设备端 8B MoE 模型,仅 1.5B active 参数。模型采用 LFM2.5 旗舰混合 MoE 架构,上下文扩展到 128K,用 38T tokens 加大规模 RL 训练,工具调用和多步 agent 能力接近 4 倍参数模型的水平。
正文
很多人还在等参数更大的模型才能跑好本地Agent!
Liquid AI的LFM2.5-8B-A1B却用1.5B active参数就已经做到了。
这个8B MoE训练了38T tokens加大规模RL,上下文直接128K,工具调用和多步agent能力很强,能接近4倍参数模型的表现。
单台笔记本就能跑完整本地agent loop,延迟低、全程隐私安全,不用调用GPT-4o或Claude。
支持llama.cpp、MLX、vLLM等框架,覆盖Apple、NVIDIA、AMD硬件。
本地Agent落地比多数人想的快多了。
你已经在本地跑Agent了吗?
Today, we're releasing LFM2.5-8B-A1B, a device-optimized model designed to power real-life applications on phones, laptops, PCs, robots, and fast & lightweight server-side use-cases. > 8B MoE, 1.5B active > Expanded 128K context > LFM2.5 flagship hybrid MoE architecture > Trained on 38T tokens + large-scale RL > fast, reliable tool calling, punching above its weight, comparable to models with up to 4x its size > customizable on a single GPU for any specialized task > LFM2 open-weight license 🧵在 X 查看被引用的帖子
来源:@berryxia · x.com