跳到正文
原文
inclusionAI Hugging Face models· inclusionAI·· 8 天前精选AI 评分62

inclusionAI 开源万亿参数思考模型 Ring-2.5-1T

inclusionAI/Ring-2.5-1T

AI 导读

inclusionAI 发布开源万亿参数思考模型 Ring-2.5-1T,采用 1:7 MLA + Lightning Linear Attention 混合线性注意力架构,激活参数从 51B 增至 63B。

推荐理由

原文给出了混合线性注意力的具体效率数字和多项基准成绩,读者可以据此评估它在长程智能体场景中的实际取舍。

来源:inclusionAI Hugging Face models · huggingface.co