跳到正文
@berryxia· @berryxia · X·· 2026-06-04AI 评分47
AI 导读

Apple MLX 框架已能与模型厂商第一时间对接,实现新模型 Day0 同步发布。Gemma 4 12b 已通过 Ollama 上线,提供 mlx、mlx-bf16、mxfp8、nvfp4 等多个 MLX 量化版本,需 Ollama 0.30.4-rc0。Mac 用户使用 MLX 框架模型速度一般至少提升 10-20%。

正文

我擦@!

我发现现在Apple的MLX框架和模型都可以Day0发布了?

这看来是同步进行操作的,MLX框架以及和模型厂商直接第一时间进行了对接啊!

强烈建议Mac的同学直接上MLX框架的模型,速度一般至少10-20%还是有的。

引用Dmitry Lyalin (@LyalinDotCom)@LyalinDotCom
If you're waiting Gemma 4 12b through @ollama, its here: gemma4:12b gemma4:12b-it-q4_K_M gemma4:12b-it-q8_0 gemma4:12b-it-bf16 gemma4:12b-mlxMLX gemma4:12b-mlx-bf16MLX gemma4:12b-mxfp8MLX gemma4:12b-nvfp4MLX ollama.com/library/gemma4/ta… You'll need Ollama version 0.30.4-rc0
在 X 查看被引用的帖子

来源:@berryxia · x.com