OpenAI 研究员盛赞 AMD 与 Cerebras 联合 AI 推理方案:表现"令人难以置信"
OpenAI 研究员盛赞 AMD 联合 AI 推理方案:表现“令人难以置信”
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
OpenAI 研究员 Jeffrey Wang 高度评价 AMD 携手 Cerebras 联合开发的 AI 推理解决方案,称其推理速度"令人难以置信"。该方案整合 AMD Helios 机架级解决方案与 Cerebras 晶圆级引擎,分别处理提示词与大上下文窗口、Token 生成与解码,预估可将每瓦每秒 token 数量提高 5 倍。
来源:IT Home · ithome.com