跳到正文
@berryxia· @berryxia · X·· 2026-05-13AI 评分41
AI 导读

Jina 在发布原版模型同一天推出全套 MLX 变体,nano/small 两个尺寸乘以 4 个任务变体,共 8 个 MLX 模型,而非等社区事后转换。此前开源 embedding 模型通常先放 PyTorch 原版,GGUF 要等 7-30 天,MLX 往往 30-90 天甚至永远没有。

正文

Mac用户大喜啊!苹果端侧模型的优势又来了!

今天还看到Jina直接原生框架支持了MLX了!

以前开源 embedding 模型发布节奏一般是这样:

Day 0:放 PyTorch 原版

Day 7-30:社区有人转 GGUF

Day 30-90:有人想起来转 MLX

大部分时候:MLX 版本永远不会有,得自己

mlx_lm.convert

Jina 这次是和原版同一天发布 MLX 变体,而且是全套——nano/small × 4 个任务变体 = 8 个 MLX 模型。

这意味着:

MLX 已经被 Jina 当成很重要的部署目标,不是社区可选项

他们内部应该有 MLX pipeline,不是手工转的。

这背后的趋势,最近半年同类产品都有这些动作。

Qwen3、DeepSeek、Llama 系列官方 release 都开始带 MLX 变体。

Hugging Face 自己加了 MLX 作为一级 framework tag(和 PyTorch、JAX 并列)

mlx-community 的下载量已经不输 GGUF 在某些细分领域

Apple 自己的 Foundation Models 也是 MLX 路线

embedding 这个赛道尤其适合 MLX:

模型小(1-2B 很完美啊!,正好塞进 M 系列统一内存)

推理频繁但每次量小(不像 LLM 是长 generation)

本地 RAG / 个人知识库场景天然在 Mac 上。

引用Berryxia.AI (@berryxia)@berryxia
huggingface.co/collections/j…
在 X 查看被引用的帖子

来源:@berryxia · x.com