跳到正文
10月20日周二
  1. IT之家·人工智能44

    小米 MiMo-V2.6-Pro 上线 WorkBuddy,支持 1M 上下文多智能体协作

    小米 MiMo-V2.6-Pro 正式上线 WorkBuddy,支持 1M 超长上下文与多智能体分工协作,并可联合理解图像、视频、音频和文本。该模型在 Artificial Analysis 智能指数为 46 分,官方称其全球开源第一。MiMo-V2.6 系列沿用 V2.5 定价,Pro 每百万词元输入 3 元、输出 6 元,并提供 99% 缓存折扣。

  2. IBM Research:AI60

    llm-d 1.0 发布:Kubernetes 原生分布式推理服务走向生产就绪

    IBM、Red Hat 和 Google 等主导的开源推理项目 llm-d 在 PyTorch Conference North America 上发布 llm-d 1.0,这是一个 Kubernetes 原生的分布式推理服务框架,支持任意模型、任意加速器和任意云。

    推荐理由:原文给出 llm-d 1.0 的具体能力变化和实测成本数据,读者可据此评估自建推理基础设施是否划算。

  3. Nathan Lambert67

    DeepSeek 宣布开源自研推理框架 DeepInfer,该框架以高吞吐、低延迟支撑 DeepSeek-V4.1-Flash 的规模化运行,代码见 github.com/deepseek-ai/DeepInfer。Nathan Lambert 转评称这是获取模型采用的独特方式,并指出发布时机恰逢美国政府刚在联邦机构禁用 DeepSeek,颇为讽刺。

    引用DeepSeek@deepseek_ai

    🚀 隆重推出 DeepInfer,我们自研的推理框架,现已完全开源! 以高吞吐量和低延迟大规模支撑 DeepSeek-V4.1-Flash。我们分享生产环境技术栈,帮助社区降低计算成本、减少能源消耗,让 AI 更可负担。 🔗 http://github.com/deepseek-ai/DeepInfer 1/4

  4. Orange AI67

    DeepSeek 宣布将自研推理框架 DeepInfer 完全开源,代码地址 github.com/deepseek-ai/DeepInfer。官方称 DeepInfer 在生产环境中支撑 DeepSeek-V4.1-Flash,实现高吞吐和低延迟,开源旨在帮助社区降低算力成本与能耗。作者认为这将推动所有模型降价。

    引用DeepSeek@deepseek_ai

    🚀 隆重推出 DeepInfer,我们自研的推理框架,现已完全开源! 以高吞吐量和低延迟大规模支撑 DeepSeek-V4.1-Flash。我们分享生产环境技术栈,帮助社区降低计算成本、减少能源消耗,让 AI 更可负担。 🔗 http://github.com/deepseek-ai/DeepInfer 1/4

  5. OpenBMB43

    🚀 MiniCPM-V 4.7 现已获 vLLM v0.32.0 支持!感谢 @vllm_project 的支持。这让以高吞吐、低延迟方式部署 MiniCPM-V 4.7 变得更加容易。

    引用vLLM@vllm_project

    🚀 vLLM v0.32.0 is out! 814 commits · 363 contributors · 121 first-timers 🧭 New /v1/systemone structured-decision endpoint + generic hf tool/reasoning parser 🗜️ Low-precision KV everywhere: NVFP4 on SM8x/90/12x, FP8 KV default for GLM-5.x, 4-bit KV on ROCm 🛠️ Model Runner V2: GPU n-gram speculator, Elastic EP, PP+CP for MLA, now default on ROCm ⚡ Faster startup & serving: precompiled kernel downloads, autotune preload, +43–85% req/s with multi-API workers 🆕 EmbeddingGemma 2, MiniCPM-V 4.7, Nemotron 3.5 ASR 🔒 3 security fixes + CORS hardening Full notes → http://github.com/vllm-project/vllm/releases/tag/v0.32.0

  6. Ant Ling56

    蚂蚁百灵感谢 vLLM 项目为 Ming-3.0 提供 Day-0 的 vLLM-Omni 支持,让模型更易部署。据引用内容,蚂蚁百灵开源了 5 款语音模型,覆盖 TTS、音频理解和 ASR,参数规模从 0.5B 到 126B 总参数(激活 6.5B),可通过 vLLM-Omni 直接部署。

    引用vLLM@vllm_project

    Day-0 support for Ming-3.0 in vLLM-Omni @AntLingAGI just open-sourced 5 speech models spanning TTS, audio understanding, and ASR — ranging from 0.5B to 126B total parameters (6.5B active). Serve them today with vLLM-Omni. Congrats to the @AntLingAGI team!

  7. 🚨 AI News | TestingCatalog46

    OpenAI 为 ChatGPT Slides 更新了实时协作编辑功能。 > Teams、Dots 和 ChatGPT 现在可以共同处理一份幻灯片,进行编辑、优化并留下评论。 该功能已在 ChatGPT Pro、Business 和 Enterprise 套餐中提供。

    引用ChatGPT@ChatGPT

    ChatGPT Slides has new ways to get your deck ready—and get everyone on the same page. • Work together in real time in ChatGPT: Share decks, edit together, and leave comments. Ask ChatGPT or your dot to turn feedback into updates. • Edit right on the slide: Click to change text, update charts, and move or resize images and shapes. To get started, ask ChatGPT to "create ChatGPT slides" from a conversation or a file you've shared. Present in ChatGPT, or export to PowerPoint or Google Slides. Available on Pro, Business, and Enterprise plans. http://chatgpt.com/features/slides/

  8. MiniMax (official)52

    MiniMax 宣布 MiniMax M3.1 Flash(代号 Space Bunny)已在 GMI Cloud 上线,官方称 GMI 实现了 day0 上线。引用内容称该模型面向编码、智能体工作流和 computer use,智能体任务成本降低 70%,DeepSWE v1.1 达 73.7%,CyberGym 达 82%,可通过 https://console.gmicloud.ai 运行。

    引用GMI Cloud@gmi_cloud

    MiniMax M3.1 Flash, aka Space Bunny, is now available on GMI Built for coding, agentic workflows, and computer use 70% lower agentic task costs, 73.7% on DeepSWE v1.1, 82% on CyberGym Run it now 👇

  9. MiniMax (official)70

    MiniMax 官方确认 OpenRouter 上的隐身模型 Space Bunny 就是 M3.1 Flash 的早期版本。该模型曾在 OpenRouter 连续 10 天排名第一,处理 56.7T tokens;最终版 M3.1 Flash 已上线 OpenRouter,并在接下来 72 小时内免费。

    引用OpenRouter@OpenRouter

    stealth 模型揭晓 🐰 Space Bunny 连续 10 天成为 OpenRouter 排名第一的模型,处理了 56.7T tokens!是我们运行过的 stealth 模型中处理量最多的。 Space Bunny 于 10 月 5 日离开 OpenRouter。今天它作为 @MiniMax_AI 的 M3.1 Flash 回归,并在接下来的 72 小时内免费。

    同一件事,精选收录的是《MiniMax 发布 M3.1 Flash,推理提速近三倍、用量成本降低 70%》