跳到正文
Yuchen Jin· @Yuchenj_UW · X·· 4 小时前AI 评分65
AI 导读

DeepSeek 宣布其自研推理框架 DeepInfer 现已完全开源,仓库地址为 github.com/deepseek-ai/DeepInfer。该框架支撑 DeepSeek-V4.1-Flash 的大规模服务,具备高吞吐和低延迟,分享生产级技术栈以帮助社区降低算力成本和能耗。作者 Yuchen Jin 转发并评论称这是真正的开放 AI。

正文 · 原文

Real Open AI.

引用DeepSeek@deepseek_ai
🚀 Introducing DeepInfer, our in-house inference framework, now fully open source! Powering DeepSeek-V4.1-Flash at scale with high throughput and low latency. We’re sharing our production stack to help the community lower compute costs, reduce energy use, and make AI more affordable. 🔗 http://github.com/deepseek-ai/DeepInfer 1/4
在 X 查看被引用的帖子

来源:Yuchen Jin · x.com