跳到正文
#开源生态
10月20日周二
  4. IBM Research：AI60

    llm-d 1.0 发布：Kubernetes 原生分布式推理服务走向生产就绪

    IBM、Red Hat 和 Google 等主导的开源推理项目 llm-d 在 PyTorch Conference North America 上发布 llm-d 1.0，这是一个 Kubernetes 原生的分布式推理服务框架，支持任意模型、任意加速器和任意云。

    推荐理由：原文给出 llm-d 1.0 的具体能力变化和实测成本数据，读者可据此评估自建推理基础设施是否划算。

  5. 公众号：小红书技术47

    小红书 AllSpark 提出 ROSS：让模型重学训练中自生成的 rollout

    小红书 AllSpark Team 提出 ROSS，让模型重新学习训练中自己生成的 rollout，通过筛选有价值轨迹片段并保留完整上下文做选择性监督。基于 Qwen3.6-35B-A3B，该方法在单轮 RL 中把数学均分从 75.19% 提至 76.98%、代码从 42.09% 提至 44.21%，MOPD 均分从 58.40% 提至 62.20%。

  6. 公众号：面壁智能68

    面壁智能解析前瞻专家调度 LES 如何让 35B MoE 在手机端侧实时无损运行

    面壁智能 MiniCPM-V 团队介绍支撑 MiniCPM-V 4.7 端侧运行的前瞻专家调度（LES）技术，称首次实现 35B-A3B 规模 MoE 在端侧实时无损运行，iPhone 18 Pro Max 实测解码超 20 token/s。

    推荐理由：原文拆解了 LES 在调度、存储、计算三层的具体设计，并给出消融数据，方法可迁移到其他 MoE 模型的端侧部署。

  7. Ant Ling56

    蚂蚁百灵感谢 vLLM 项目为 Ming-3.0 提供 Day-0 的 vLLM-Omni 支持，让模型更易部署。据引用内容，蚂蚁百灵开源了 5 款语音模型，覆盖 TTS、音频理解和 ASR，参数规模从 0.5B 到 126B 总参数（激活 6.5B），可通过 vLLM-Omni 直接部署。

    引用vLLM@vllm_project

    Day-0 support for Ming-3.0 in vLLM-Omni @AntLingAGI just open-sourced 5 speech models spanning TTS, audio understanding, and ASR — ranging from 0.5B to 126B total parameters (6.5B active). Serve them today with vLLM-Omni. Congrats to the @AntLingAGI team!

  12. Thomas Wolf56

    Thomas Wolf 转发 @JackBoylan_98 的演示：Fish Audio 的 Drama-3 被添加进开源 speech-to-speech 项目，作者克隆了自己的声音，可通过说话直接让模型耳语、大笑、叹气或表现担忧，并感谢 @andimarafioti 的演示与采样建议。PR 与配置见 https://github.com/huggingface/speech-to-speech/pull/725。

    引用Jack Boylan@JackBoylan_98

    added Fish Audio’s Drama-3 to speech-to-speech 🎭 cloned my voice. now I can ask it to whisper, laugh, sigh or get worried, just by talking. cheers to @andimarafioti for the demo + sampling tips! PR + setup: https://github.com/huggingface/speech-to-speech/pull/725

  14. Dongxi 东锡 NLP65

    Meta 发布 Muse Glimmer 30B 开源权重模型技术报告，主打消费级硬件上的 Agent 任务。模型经 4-bit 量化后约 17GB，目标在 24GB 显存设备运行，并称在工具使用和多步规划上领先同规模开源模型。

    引用AI at Meta@AIatMeta

    Today we published a technical report on Muse Glimmer, our 30B open-weight model built for agentic tasks on consumer hardware. It runs at practical speeds on a Mac or PC with a single consumer GPU at 4-bit precision, and leads comparably-sized open models on tool use and multi-step planning. Read about the model architecture, distillation recipe, quantization and more: https://go.meta.me/4Bcvxol

10月19日周一
  2. 🚨 AI News | TestingCatalog35

    Nebius 将其 AI Builder Program 扩展至欧洲，联合 NVIDIA、Accel 及其他欧洲 VC 提供总计 1000 万美元的算力资助、资金和社区项目支持。

    引用Nebius@nebiusai

    The AI Builder Program is expanding across Europe with $10M in total support across compute grants, capital, and community programs. Are you building open models, developer tools, or applications on top of them? The program helps builders go from experimentation to scale-up through: - Compute grants for selected projects in areas such as open models, coding agents, post-training, and evals - VC connections to help turn open source projects into companies - Hackathons and demo days with communities including @AITinkerers, @techeurope_ , and @esra_robotics to build, connect, and share your work We’re kicking off the European expansion this week at #NVIDIAGTC Berlin with @NVIDIAAI, @Accel, and a network of European VCs. Building AI in Europe? Details below. 👇

  3. Rohan Paul38

    Nebius 将投入 1000 万美元支持欧洲 AI 开发者。 > 这包括面向精选开源项目的算力资助（开放模型、编程智能体、智能体运行时、推理工具、后训练、RL 和评测）， > 为将项目转化为公司的团队引荐 Accel 及其他欧洲风投，以及与 NVIDIA 和 AI Tinkerers 等社区共同举办的黑客松和演示日

    引用Nebius@nebiusai

    The AI Builder Program is expanding across Europe with $10M in total support across compute grants, capital, and community programs. Are you building open models, developer tools, or applications on top of them? The program helps builders go from experimentation to scale-up through: - Compute grants for selected projects in areas such as open models, coding agents, post-training, and evals - VC connections to help turn open source projects into companies - Hackathons and demo days with communities including @AITinkerers, @techeurope_ , and @esra_robotics to build, connect, and share your work We’re kicking off the European expansion this week at #NVIDIAGTC Berlin with @NVIDIAAI, @Accel, and a network of European VCs. Building AI in Europe? Details below. 👇

  4. Orange AI68

    ColaMD 宣布将图表渲染引擎从 Mermaid 换成 Pele，语法保持不变。渲染器体积从 10M 降到 5.4M，一张图画好只要 20 毫秒，入口为 https://ColaMD.com。Pele 是 Obsidian 作者 kepano 新开源的图表渲染库，兼容最新 Mermaid 语法，号称比 mermaid.js 快 100-500 倍、体积小 6 倍、无依赖，将以 MIT 协议开源，并成为下一版 Obsidian 的渲染器。

    引用kepano@kepano

    This is Pele, my new rendering library for diagrams and charts, compatible with the latest Mermaid syntax. - 100-500× faster than mermaid.js - 6× smaller bundle - No dependencies - Easy to theme - Responsive to device width In pursuit of making Obsidian insanely fast and cohesively designed, I always found the Mermaid library to be too big, too slow, and too hard to theme. Pele will be the new renderer in the next version of Obsidian, but you can start using it now. Pele [ˈpɛlɛ] is named after the goddess of volcanoes and fire. It's open source under the MIT license. Try the playground!

  6. Thomas Wolf48

    Hugging Face Hub 上被二次开发最多的模型不是 Llama 也不是 Qwen。 而是来自德国实验室 Black Forest Labs 的 FLUX.1-dev：4.3 万个衍生模型。 欧洲在 Hub 上训练了约 8% 的开源模型算力，但人们在其之上构建的东西中约 18% 是欧洲的。 自建还是投降？自建，并且开源地建。本周 GTC Berlin 见

    引用Arthur Mensch@arthurmensch

    Should Europe leave frontier AI to the Americans and the Chinese? The idea has gained ground in Europe. It is a fundamental mistake. Build or surrender: for now, the choice is still ours. Full article below. https://x.com/i/article/2110989616249450496

  7. Thomas Wolf40

    下周柏林 GTC 的主要议题之一。 今天我粗略估算的一个数据点：Hub 上约 10 亿美元的开源模型训练算力中，欧洲实验室贡献了约 8%。其中大部分来自 Mistral。 在开源模型上，“自建”这个选项显然仍然摆在桌面上，而且比人们想象的更便宜。

    引用Arthur Mensch@arthurmensch

    Should Europe leave frontier AI to the Americans and the Chinese? The idea has gained ground in Europe. It is a fundamental mistake. Build or surrender: for now, the choice is still ours. Full article below. https://x.com/i/article/2110989616249450496

  8. Thomas Wolf56

    Hugging Face 联创 Thomas Wolf 用 napkin math 估算，Meta、NVIDIA、阿里、DeepSeek、Moonshot、Mistral 等约 35 家机构已在 Hugging Face Hub 免费共享价值近 $1B 的训练算力（按当前 GPU 租用价折算），而 2023 年底这一数字还不到 $40M。估算基于 72 个模型家族的官方算力数字加推断，未计入约 90 万个社区微调，并附可探索数据页面。

    引用Thomas Wolf@Thom_Wolf

    Fun and crazy napkin math: Meta, NVIDIA, Alibaba, DeepSeek, Moonshot, Mistral and ~30 other labs have shared close to $1B worth of training compute on the Hugging Face Hub Free to download End of 2023 it was under $40M Wikipedia was written in volunteer hours. This AI age commons is written in GPU-hours and data (it's a floor btw: about half comes from official compute numbers rest is educated guess and it still miss the ~900k community fine-tunes) Space with data to explore: https://thomwolf-hub-dollars.static.hf.space

10月18日周日
10月17日周六
  5. 🚨 AI News | TestingCatalog73

    DeepSeek 发布开源权重模型 DeepSeek-V4.1-Flash-1017，在 DeepSWE 1.1 基准上取得 77% Pass@1，据称超过 GLM-5.3、Kimi K3、GPT-5.6 Sol 和 Opus 5。模型已上线 DeepSeek Chat、API 和 HuggingFace，官方称相比上一版性能更强、任务完成更快、输出更短，并在性能与成本上实现 Pareto 改进。

    引用DeepSeek@deepseek_ai

    🚀 DeepSeek-V4.1-Flash-1017 来了！ 与上一版本相比，基准测试表现更强、任务完成更快、输出更短——在性能与成本上实现了帕累托改进。现已在我们的网站、应用和 API 上线。 🛠️ 针对 @DeepSeekHarness、Tencent CodeBuddy、WorkBuddy 等进行了优化。升级到 DeepSeek Harness v0.2.1-rc.1 或更高版本，以获得新模型的最佳体验。 1/4

  10. Arena.ai80

    Arena 公布 Meta 发布的 Muse Spark Open (Max) 在 Code Arena: WebDev 以 1511 分位居美国开源模型第一、开源模型总榜第 13。

    引用AI at Meta@AIatMeta

    今天我们发布 Muse Spark Open，这是迄今为止能力最强的美国开放权重模型。 专为编程和智能体工作打造，它擅长长周期任务、复杂软件工程和多步推理。 关键模型规格： → 816B 总参数 / 42B 激活参数 → 1M token 上下文窗口 → 原生支持文本、图像、视频、音频多模态

    推荐理由：基于 Arena 自家 Code Arena 榜单给出 Muse Spark Open 的具体得分、排名与定价对比，读者可据此定位该开源模型的真实水准。

  12. Aravind Srinivas43

    OpenRouter 是使用 Perplexity Decider 模型的最佳平台

    引用OpenRouter@OpenRouter

    Perplexity Decider v1.2 and Decider Flash v1.2 are now on OpenRouter @perplexity_ai's open-weights decision models take text or images and return typed answers with probabilities - Decider v1.2: a new 27B checkpoint, succeeding v1.1 - Decider Flash v1.2: 4B, faster and half the cost http://openrouter.ai/perplexity/pplx-decider-v1.2 http://openrouter.ai/perplexity/pplx-decider-flash-v1.2

  13. The Decoder：AI News77

    中国拟收紧开源权重模型及 23 项关键 AI 技术出口管制

    中国商务部和科技部发布禁止和限制出口技术目录草案，涉及大模型、智能体、算力集群和数据处理等 23 项关键 AI 技术。可自主编写或修改恶意软件攻击关键基础设施的工具面临全面出口禁令；大模型在满足 10^26 FLOPs 训练算力、2 万亿参数或全球排名前 10 等条件时受控，但开源发布和自有海外数据中心运营可走自动许可快速通道。

    同一件事，精选收录的是《商务部、科技部拟在出口技术目录增列23项人工智能技术并征意见》