AMD 发布 Instella-MoE 系列开源混合专家模型，16B 参数、自有 GPU 训练

AMD 于 7 月 24 日发布博文推出 Instella-MoE 系列开源混合专家模型，总参数量 16B、激活参数 2.8B，采用 27 层解码器架构，共 6 个版本，在 AMD Instinct MI300X 和 MI325X GPU 上基于 ROCm 软件栈从头训练。