清华系团队是石科技发布国产Token优化工厂拓元(Vectron),兼容10余种国产芯片
清华系团队发布国产Token优化工厂:兼容10余种国产芯片,日吞吐千亿Token
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
是石科技在WAIC 2026发布国产Token优化工厂拓元(Vectron),兼容昇腾、昆仑芯、摩尔线程等10余种国产算力芯片,适配20余个主流模型,每日Token吞吐量达千亿级别。该平台通过结果感知驱动KV Cache压缩、免训练Token压缩等技术,实现国产异构算力池的统一调度与推理加速。
来源:量子位 · 微信公众号 · mp.weixin.qq.com