跳到正文
quesma.com(经 Hacker News)·· 2026-09-09AI 评分27

Qwen3.8 27B 量化方案基准测试:4-bit 表现稳定,1-bit 崩溃

Qwen3.8 27B量化方案的基准测试:4位表现稳定,1位表现崩溃

阅读原文

本站未展示全文,请前往来源网站阅读。

AI 导读

Qwen3.8 27B 的量化基准测试显示,4-bit 量化性能保持稳定,而 1-bit 量化则出现崩溃。该测试对比了不同量化精度下模型的推理表现,结果指出低比特量化在极端压缩时会导致模型能力显著下降。

来源:quesma.com(经 Hacker News) · quesma.com