北大与 DeepSeek 联合开源 DSpark,高并发推理速度提升 60% 至 85%
北大与 DeepSeek 联合开源 DSpark:破解 AI 大模型高并发推理瓶颈,速度提升 60% 至 85%
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
DeepSeek 联合北京大学发布并开源 DSpark 推理加速框架,已部署于 DeepSeek-V4-Flash 和 DeepSeek-V4-Pro 的预览版服务引擎,同等吞吐下单用户生成速度相比单 token 推测解码基线 MTP-1 提升 60% 至 85%。
来源:IT Home · ithome.com