Epoch AI 分析全球推理算力是否会面临算力紧缩
Is a compute crunch coming?
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
Epoch AI 估算全球 Blackwell 芯片按 Kimi K2.6 类模型计可提供每秒 5 亿至 200 亿输出 token,推理算力约每年增长 3.4 倍。对比 Google 等需求代理指标约每年 10 倍增速,文章认为大型模型的 token 价格可能上涨,算力紧缩或已临近,长上下文 agentic 负载尤其承压,但效率提升可能让日常用户转向更小更便宜的模型。",
推荐理由
文章用推理工程建模估算全球算力供给与 token 需求增速,指出需求可能追上供给的判断框架值得参考。
来源:Epoch AI:Gradient Updates · epochai.substack.com