Show HN: ExpertCache 让 16GB M1 Pro 跑起完整 GPT-OSS 120B(63GB)
Show HN: ExpertCache – Run the Full GPT-OSS 120B (63GB) on a 16GB M1 Pro
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
ExpertCache 在 16GB 内存的 M1 Pro 上运行完整 GPT-OSS 120B(63GB)。该项目通过缓存专家权重的方式突破内存限制,让本地设备也能加载这一 120B 规模模型。
来源:github.com(经 Hacker News) · github.com