英特尔为开源多模态视频模型 MiniMax H3 提供 Day 0 支持,实现多卡 GPU 部署方案
英特尔:为开源多模态视频模型 MiniMax H3 提供 Day 0 支持,实现基于多卡 GPU 的部署方案
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
英特尔宣布为开源多模态视频模型 MiniMax H3 提供 Day 0 首发支持,锐炫 Pro B70 第一时间完成适配。其部署方案采用 Encoder 8 卡张量并行、DiT 8 卡 USP 结合 Layer-wise Offloading、VAE 部署于 B70 GPU 的架构,并进一步开发 2TP×4USP 混合并行方案,降低通信开销、提升整体推理性能。
来源:IT Home · ithome.com