跳到正文
热点事件持续更新

karminski预告发布Qwen模型MTP加速优化版llama.cpp/mlx

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

2026年10月20日,开发者karminski在X上表示,正为Qwen3系列开发一项MTP推理速度优化。据其介绍,若优化成功,Qwen3.8-27B、Qwen3.6-35B-A3B、Qwen3.8-Flash-Next在开启MTP的情况下速度可再提升约16%。成果将以llama.cpp / mlx版本直接发布,开箱即用。目前该优化仍在开发中,尚未发布,报道未提及具体发布时间与实测数据。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. karminski-牙医 (@karminski3) · X
    作者正为Qwen3系列提升MTP推理速度16%

    作者正在开发一项优化,若成功可让Qwen3.8-27B、Qwen3.6-35B-A3B、Qwen3.8-Flash-Next在开启MTP的情况下速度再提升约16%。成果将以llama.cpp / mlx版本直接发布,开箱即用。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。