DeepSeek开源推理框架DeepInfer
先了解这件事
2026年10月20日，IT Home报道，DeepSeek宣布将内部推理框架DeepInfer全面开源，目标是帮助开发者与企业优化大规模推理的吞吐与延迟，降低算力成本，实现大模型普惠。同日稍晚，X平台用户Tianyi Cui发布消息称，DeepSeek已在Apache-2.0协议下开源该高性能大规模推理框架，代码托管于GitHub的deepseek-ai/DeepInfer仓库，并列举了优化kernel与sampler运行时、Attention DP/均衡CP、MoE EP + EPLB、零开销异步批调度、批不变推理、确定性采样与结构化输出等特性。随后，DeepSeek官方账号发文确认完全开源，代码位于同一仓库，并称该框架在生产环境支撑DeepSeek-V4.1-Flash的大规模推理，主打高吞吐和低延迟，希望帮助社区降低计算成本与能耗。此后X用户马东锡NLP再次报道Apache-2.0协议与仓库地址，其特性清单在早先版本基础上增加了DSpark与置信度调度验证、SWA bounded replay等条目。早先报道仅提及开源决定与目标，未披露开源协议、代码渠道及功能细节，后续报道则补充了协议、仓库地址与特性清单。
AI 根据报道生成 · 28 分钟前更新
报道时间线
沿着报道，了解事件的不同侧面。
- Dongxi 东锡 NLP (@dongxi_nlp) · XDeepSeek 开源高性能大规模推理框架 DeepInfer
DeepSeek 以 Apache-2.0 协议开源高性能大规模推理框架 DeepInfer，代码位于 github.com/deepseek-ai/DeepInfer。支持优化 kernel 与模型和 sampler 运行时、Attention DP 与均衡 CP、MoE EP + EPLB、DSpark 与置信度调度验证、SWA bounded replay、零开销批量调度的异步调度、批量不变推理、确定性采样及结构化输出。
- DeepSeek (@deepseek_ai) · X精选DeepSeek 开源自研推理框架 DeepInfer
DeepSeek 宣布将自研推理框架 DeepInfer 完全开源，代码位于 github.com/deepseek-ai/DeepInfer。该框架在生产环境支撑 DeepSeek-V4.1-Flash 的大规模推理，主打高吞吐和低延迟，官方称希望帮助社区降低计算成本与能耗。
- Tianyi Cui (@tianyi) · XDeepSeek 以 Apache-2.0 开源大规模推理框架 DeepInfer
DeepSeek 在 Apache-2.0 协议下开源高性能大规模推理框架 DeepInfer，代码位于 https://github.com/deepseek-ai/DeepInfer。支持优化 kernel 与 sampler 运行时、Attention DP/均衡 CP、MoE EP + EPLB、零开销异步批调度、批不变推理、确定性采样与结构化输出等特性。
- IT HomeDeepSeek 宣布全面开源内部推理框架 DeepInfer
DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，目标是帮助开发者与企业优化大规模推理的吞吐与延迟，降低算力成本，实现大模型普惠。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。