扩散智能 DiffuSpace 与 Acrab 测试:dLLM 让端侧 Agent 提速约 5 倍
大模型的逐字生成模式,正在拖慢你的Agent,有人跑出了5倍提速
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
扩散智能 DiffuSpace 与亚洲智能体计算平台公司 Acrab 的联合测试显示,扩散语言模型(dLLM)在端侧场景可将 Agent 运行速度提升约 5 倍,双方计划加速推进其在 AI PC、智能汽车、机器人及智能家居等场景落地。DiffuSpace 称扩散模型每步可并行生成 7 到 10 个 Token,并计划今年四季度发布新一款扩散语言模型,明年把参数规模再扩大一个数量级。
来源:机器之心 · 微信公众号 · mp.weixin.qq.com