蚂蚁百灵开源 Ling-3.0-tiny 模型,支持英伟达 DGX Spark、苹果 Mac mini 部署
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
蚂蚁百灵在 Hugging Face 开源轻量级混合推理 MoE 模型 Ling-3.0-tiny,总参数 7.9B,每 Token 激活 1.3B 参数。该模型采用 KDA 与 MLA 按 3:1 比例交替堆叠的混合线性架构,含 128 个路由专家的稀疏 MoE 前馈网络,提供 BF16、FP8 和 INT4 权重版本。
来源:IT Home · ithome.com