Show HN：基于 E8 格点的 LLM 量化库 glq 开源
Show HN: Glq LLM quantization using E8 lattice
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
作者 acd 在 Hacker News 发布开源 LLM 量化库 glq，基于 E8 格点在每权重 2 到 4 bit 区间做压缩，并支持按各层量化敏感度分配不同位宽的混合精度量化。
来源：github.com（经 Hacker News） · github.com
Show HN: Glq LLM quantization using E8 lattice
本站未展示全文，请前往来源网站阅读。
作者 acd 在 Hacker News 发布开源 LLM 量化库 glq，基于 E8 格点在每权重 2 到 4 bit 区间做压缩，并支持按各层量化敏感度分配不同位宽的混合精度量化。
来源：github.com（经 Hacker News） · github.com