inclusionAI 发布 Ling-3.0-tiny，7.9B 参数 MoE 模型面向端侧部署
inclusionAI/Ling-3.0-tiny-int4
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
inclusionAI 发布 Ling-3.0-tiny，这是一个总参数 7.9B、每 token 仅激活 1.3B 的轻量混合推理 MoE 模型，提供 BF16、FP8 和 INT4 三种权重。
来源：inclusionAI Hugging Face models · huggingface.co