Tianyi Cui· @tianyi · X·· 1 小时前同事件AI 评分70
AI 导读
DeepSeek 开源自研推理框架 DeepInfer，以及 deepseek-recipe 等服务 DeepSeek 模型的关键组件，代码位于 github.com/deepseek-ai/DeepInfer。DeepInfer 已用于大规模支撑 DeepSeek-V4.1-Flash 的高吞吐低延迟推理，官方希望帮助更多企业和机构部署 DeepSeek 模型并从中获利。
同一件事，精选收录的是《DeepSeek 全面开源内部推理框架 DeepInfer》
正文 · AI 翻译
我们正在发布 DeepInfer、deepseek-recipe 以及其他用于服务 DeepSeek 模型的关键组件，希望世界各地更多的公司和组织能够部署 DeepSeek 模型并从中获利。
🚀 隆重推出 DeepInfer，我们自研的推理框架，现已完全开源！ 以高吞吐量和低延迟大规模支撑 DeepSeek-V4.1-Flash。我们分享生产环境技术栈，帮助社区降低计算成本、减少能源消耗，让 AI 更可负担。 🔗 http://github.com/deepseek-ai/DeepInfer 1/4
原文
🚀 Introducing DeepInfer, our in-house inference framework, now fully open source! Powering DeepSeek-V4.1-Flash at scale with high throughput and low latency. We’re sharing our production stack to help the community lower compute costs, reduce energy use, and make AI more affordable. 🔗 http://github.com/deepseek-ai/DeepInfer 1/4
来源：Tianyi Cui · x.com