OpenAI 称其 Jalapeño 芯片能带来比竞品更快的 AI 响应
OpenAI says its Jalapeño chip can power faster AI responses than the competition
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
OpenAI 发布博客称,其与 Broadcom 合作打造的 ASIC 芯片 Jalapeño 在 AI 推理任务上效率更高、响应更快。OpenAI 硬件副总裁 Richard Ho 表示,Jalapeño 同时实现更低延迟和更高吞吐,而 AI 系统通常需在两者间取舍。该芯片于 6 月首次亮相,专为运行已训练模型、部署智能体的推理场景设计。
来源:The Verge · AI · theverge.com