DeepSeek 全面开源内部推理框架 DeepInfer
先了解这件事
DeepSeek 宣布将内部使用的高性能大规模推理框架 DeepInfer 全面开源，代码托管在 GitHub（github.com/deepseek-ai/DeepInfer），采用 Apache-2.0 许可，并同步开源生产级 Token 编解码组件 deepseek-recipe。发布信息称，该组件与 DeepSeek 官方 API 的处理逻辑完整对齐。 据开源信息，DeepInfer 包含优化 kernel、模型与 sampler 运行时，支持 Attention DP、平衡 CP、MoE EP + EPLB 等并行方案，以及 DSpark、置信度调度验证、SWA bounded replay、零开销异步批量调度、batch-invariant 推理、确定性采样和结构化输出等功能。IT之家报道称，该框架兼容英伟达与华为昇腾平台，并已支撑 DeepSeek V4.1 Flash 的大规模推理服务。DeepSeek 官方称，开放这套生产技术栈旨在帮助社区降低算力成本与能耗。 此前 DeepSeek 已开源大模型、TileLang 编译工具及推理算子库，此次开源把推理框架本身也对外公开。
AI 根据报道生成 · 7 分钟前更新
报道时间线
沿着报道，了解事件的不同侧面。
- DeepSeekDeepSeek 开源自研推理框架 DeepInfer
DeepSeek 宣布其自研推理框架 DeepInfer 完全开源，代码托管在 http://github.com/deepseek-ai/DeepInfer。该框架以高吞吐、低延迟支撑 DeepSeek-V4.1-Flash 的大规模推理，官方称开放生产技术栈旨在帮助社区降低算力成本与能耗。
- Tianyi Cui精选DeepSeek 以 Apache-2.0 开源大规模推理框架 DeepInfer
DeepSeek 开源高性能大规模推理框架 DeepInfer，采用 Apache-2.0 许可，仓库地址 https://github.com/deepseek-ai/DeepInfer。支持优化 kernel、模型与 sampler 运行时，Attention DP、平衡 CP、MoE EP + EPLB 等并行方案，以及 DSpark、置信度调度验证、SWA bounded replay、零开销异步批量调度、batch-invariant 推理、确定性采样和结构化输出。
- IT之家·人工智能DeepSeek 将内部推理框架 DeepInfer 全面开源
DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，此前已开源大模型、TileLang 编译工具及推理算子库。DeepInfer 集成高性能算子与深度优化的推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力，兼容英伟达与华为昇腾平台，已支撑 DeepSeek V4.1 Flash 高吞吐、低延迟的大规模推理服务。
- 公众号：DeepSeek精选DeepSeek 全面开源内部推理框架 DeepInfer
DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，并同步开源生产级 Token 编解码组件 deepseek-recipe。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。