Meta 开源 30B 模型 Muse Glimmer,4bit 量化可单卡 24GB 显存运行
Meta 开源 30B AI 模型 Muse Glimmer,4bit 量化可在单卡 24GB 显存 GPU 运行
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
Meta 发布 300 亿参数的 Muse Glimmer,并以 Apache 2.0 许可协议开源模型权重,该模型专为全天候常驻运行的本地智能体工作流优化。官方表示其应用 4bit 量化后可在 24GB/32GB 显存的 Mac 或 PC 上本地运行,压缩对智能体任务性能影响微乎其微,并已在 MacBook M4 Max、M5 Max 和 RTX 5090 上完成测试。
来源:IT Home · ithome.com