Prime Intellect 发布 Prime Mega MoE:可训练融合 MoE 内核,前向传播快 3.11 倍
Prime Intellect Releases Prime Mega MoE: Trainable Fused MoE Kernel, 3.11x Faster Forward Pass
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
Prime Intellect 发布 Prime Mega MoE,在 DeepSeek 开源 DeepGEMM 库的 Mega MoE 内核基础上补齐了融合且重叠的反向传播,使其可用于训练而非仅推理。
来源:MarkTechPost · marktechpost.com