华为黄健:Token 调用量半年涨 6 倍,运力成 AI 算力最大瓶颈
Token 调用量涨 6 倍!华为:运力成 AI 算力最大瓶颈,不该执着单芯片制程
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
华为中国政企互联网行业总经理黄健援引机构数据称,过去半年 token 消耗量增长 6 倍,模型调用次数增加约 50 至 100 倍。他认为算力、存力、运力三者中运力是最突出瓶颈,与其执着单芯片制程,不如通过网算存协同一体化解决,并称华为已将 NPO 带宽提升八倍以上、Token 产生效率提升五倍。
来源:IT Home · ithome.com