Mac 本地跑大模型靠谱吗？实测明略科技 Cider 与 Mano-P

作者在 MacBook Pro 上实测 MLX 与明略科技新开源的 Cider、Mano-P，认为端侧跑大模型已接近可用。Cider 是首个在 Apple GPU 上实现硬件加速 INT8 TensorOps 的开源框架，提供 W8A8 和 W4A8 模式，算子速度比原生 MLX 提升 1.4 到 1.9 倍，跑 Qwen3-VL-2B 的端到端预填充加速 57% 到 61%。