Wafer 公布 AMD MI355X 跑 GLM 5.2 数据,成本不到英伟达 B200 一半
AMD跑GLM 5.2,成本只要英伟达一半
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
推理优化公司 Wafer 公布数据,在 AMD MI355X 上运行 GLM 5.2 实现单节点吞吐 2626 tok/s、单流 213 tok/s,吞吐约为英伟达 B200 的八成,成本不到其一半。
来源:量子位 · 微信公众号 · mp.weixin.qq.com
AMD跑GLM 5.2,成本只要英伟达一半
本站未展示全文,请前往来源网站阅读。
推理优化公司 Wafer 公布数据,在 AMD MI355X 上运行 GLM 5.2 实现单节点吞吐 2626 tok/s、单流 213 tok/s,吞吐约为英伟达 B200 的八成,成本不到其一半。
来源:量子位 · 微信公众号 · mp.weixin.qq.com