Prime Intellect 发布 INTELLECT-2,32B 推理模型通过全球分布式强化学习训练
Prime Intellect 发布 INTELLECT-2,称其为首个通过全球分布式强化学习训练的 32B 参数推理模型,并在数学和编码基准上超过 QwQ-32B。
推荐理由:原文给出分布式异步 RL 的完整基础设施与训练配方细节,并开源模型、代码和数据,读者可以了解去中心化训练的可行路径。
技术方向
开放权重、能下载下来自己部署的模型,开源框架与 GitHub 上爆火的 AI 项目。
690 条精选近 30 天 53 条共收录 3,660 条
Prime Intellect 发布 INTELLECT-2,称其为首个通过全球分布式强化学习训练的 32B 参数推理模型,并在数学和编码基准上超过 QwQ-32B。
推荐理由:原文给出分布式异步 RL 的完整基础设施与训练配方细节,并开源模型、代码和数据,读者可以了解去中心化训练的可行路径。
Cognition 推出 DeepWiki,将 Devin Wiki 和 Devin Search 免费公开,把 URL 中的 github.com 换成 deepwiki.com 即可查看任意仓库的 AI 文档。已索引超过 50,000 个热门公开仓库,涵盖 Model Context Protocol、LangChain 等;公开仓库可免费添加,私有仓库需 Devin 账号。
推荐理由:原文给出了使用方式和已索引规模,读者可以据此判断如何用 DeepWiki 快速理解陌生代码仓库。
Prime Intellect 发布 INTELLECT-2,称其为首个 32B 参数模型的全球无许可去中心化强化学习训练,任何人可贡献异构算力。
推荐理由:官方完整公开了异步 RL 去中心化训练的框架、验证机制与数据过滤细节,读者可以照此评估和复用整套开源组件。
Hugging Face 发布博客,宣布 Llama 4 Maverick 与 Llama 4 Scout 上线 Hugging Face 平台。正文抓取失败,仅有标题可用,更多细节见原文链接 https://huggingface.co/blog/llama4-release。
DeepSeek 发布小版本升级 DeepSeek-V3-0324,在数学、代码类评测集上得分超过 GPT-4.5,并增强了前端代码生成、中文写作与联网搜索能力。模型参数约 660B,开源版本上下文长度为 128K,网页端、App 和 API 提供 64K 上下文。权重已开源,采用 MIT License,允许蒸馏训练其他模型。
推荐理由:推理能力提升至超越 GPT-4.5 的同时保持 MIT 开源许可,让低成本部署强推理模型的门槛进一步降低。
DeepSeek-V3 新版已发布,关闭深度思考模式即可体验,模型权重同步开源。
推荐理由:DeepSeek-V3 发布时是开源模型的有力竞争者,但这条一年多前的旧闻如今毫无新意,对关注 AI 动态的你来说,可以直接跳过。
激动地宣布 GR00T N1,全球首个面向人形机器人的开放基础模型!我们的使命是让物理 AI 走向大众。通用机器人大脑的力量,尽在掌中——仅有 2B 参数,N1 从迄今汇编的最多样化物理动作数据集中学习,以小博大: - 真实人形遥操作数据。 - 大规模仿真数据:我们开源 300K+ 轨迹! - 神经轨迹:我们应用 SOTA 视频生成模型来“幻觉”出新的合成数据,其像素级特征具备准确的物理特性。用 Jensen 的话说,“系统性地无限数据”! - 潜在动作:我们开发新颖算法,从野外人类视频和神经生成视频中提取动作 token。 GR00T N1 是一个单一的端到端神经网络,从光子到动作: - 视觉-语言模型(系统 2)通过视觉和语言指令解读物理世界,使机器人能够对其环境和指令进行推理,并规划正确的动作。 - 扩散 Transformer(系统 1)以 120 Hz“渲染”平滑而精确的运动动作,执行系统 2 制定的潜在计划。 我们将 N1 部署在 GR1 机器人、1X Neo 机器人以及大量仿真基准上。N1 在家庭和工业环境中的多样化操作任务上实现了高达 +30% 的提升。 虽然人形机器人是 N1 的主要焦点,但我们的模型也支持跨具身。我们对其微调,使其能在价值 $110 的 HuggingFace LeRobot SO100 机械臂上工作!开放机器人大脑运行在开放硬件上。听起来正合适。 让我们一起解决机器人技术,一次一个 token。 我们的白皮书、Github 仓库、HuggingFace 模型和开放数据集页面的链接在帖子串中:🧵
推荐理由:NVIDIA开源首个通用人形机器人基础模型GR00T N1,2B参数可部署于百元级机械臂
Mistral AI 发布 Mistral Small 3.1,称其在同类权重模型中优于 Gemma 3 和 GPT-4o Mini,推理速度达 150 tokens 每秒,上下文窗口扩展至 128k tokens,并以 Apache 2.0 许可证开源。
推荐理由:官方公告给出具体基准对比、部署门槛和开放下载渠道,读者可据此评估它能否替代现有小型私有模型。
Zyphra 以 Apache 2.0 许可发布 Zonos-v0.1 beta,包含 1.6B transformer 与 1.6B SSM hybrid 两个实时 TTS 模型,后者是首个开源 TTS SSM 模型。
推荐理由:官方发布了模型权重、API 定价和架构细节,读者可以据此评估开源 TTS 与专有模型的差距与可用性。
Mistral 发布 24B 参数的 Mistral Small 3,以 Apache 2.0 协议开放预训练和指令微调两种权重。官方称其在 MMLU 上超 81% 准确率、延迟 150 tokens/s,与 Llama 3.3 70B instruct 相当且同硬件快 3 倍以上,量化后可在单张 RTX 4090 或 32GB 内存的 Mac 上本地运行。
推荐理由:官方完整说明了模型规格、性能数字和开放部署渠道,读者可据此评估本地部署与开源基座的可行性。
ARC Prize 发布对 DeepSeek R1-Zero 和 R1 的分析,两者在 ARC-AGI-1 上分别得分 14% 和 15.8%,与 o1(低算力 20.5%)相当,而 o3-preview 低算力达 75.7%。
推荐理由:作者基于 ARC-AGI-1 实测数据比较 R1-Zero 与 o1/o3,提出纯 RL 训练可绕过人类标注瓶颈和推理经济学两个分析角度。
FireRedTeam 开源工业级 ASR 模型 FireRedASR,支持普通话、中文方言和英文,在公开普通话 ASR 基准上取得 SOTA,并具备歌词识别能力。
推荐理由:原文给出两个模型变体的架构差异和公开基准 CER/WER 对比数字,读者可据此评估选型。
Hugging Face 推出 smolagents,一个以代码形式编写动作的简单智能体库。原文正文缺失,仅标题可确认发布信息,详情以博客原文为准。
深度求索正式发布 DeepSeek-V3 模型,性能比肩世界顶尖模型,速度跃升,价格更新。
推荐理由:DeepSeek-V3 是 2024 年底国产模型的一次真正跃迁,首次亮剑就逼近闭源顶尖,开源权重更是直接改变了开发者生态。时隔一年半回头看,它仍是理解 DeepSeek 路径的起点。
Answer.AI 与 LightOn 联合发布 ModernBERT,这是一系列旨在取代 BERT 的 SOTA 编码器模型。该模型将 LLM 的最新架构改进(如 Flash Attention、RoPE)应用于编码器,支持 8192 token 上下文长度(远超传统 BERT 的 512),并在速度和下游任务性能上全面超越旧一代模型。提供 base (149M) 和 large (395M) 两种参数规模,已集成至 Hugging Face Transformers v4.48.0,可直接作为 BERT 类模型的即插即用替代品,适用于 RAG、分类及代码检索等场景。
推荐理由:这是六年来首个真正意义上对 BERT 架构的重大升级,解决了长上下文限制并提升了效率,对依赖编码器的 RAG 和搜索系统开发者具有直接的生产力价值。
ARC Prize 官方公布 2024 年获奖者并发布技术报告,共 1,430 支队伍提交 17,789 个方案,ARC-AGI-1 SOTA 从 33% 升至 55.5%,但 100 万美元大奖无人认领。
推荐理由:官方技术报告给出完整获奖方案与三类新方法总结,读者可以据此了解 ARC-AGI 分数提升背后的具体技术路线。
Prime Intellect 发布 INTELLECT-1,称其为首个全球协作训练的 10B 参数语言模型,基于 Llama-3 架构在 1T token 上训练 42 天,跨五国三洲最多同时使用 112 张 H100。
推荐理由:原文给出分布式训练的关键数字和 PRIME 框架细节,读者可以了解跨洲协作训练 10B 模型的可行性与工程代价。
Mistral AI 发布基于 Mistral Large 2 的 124B 开源权重多模态模型 Pixtral Large,在 MathVista 达到 69.4%,在 ChartQA、DocVQA 上超过 GPT-4o 和 Gemini-1.5 Pro。
推荐理由:官方发布了多模态模型的基准成绩与开放下载渠道,也说明了许可证类型,适合想对比前沿多模态能力或自部署的读者参考。
ARC Prize 团队于 2024 年 10 月 24 日举办线上活动,说明为何单靠深度学习难以攻克 ARC-AGI,并提出结合深度学习与程序合成的技术路线。
推荐理由:Chollet 和 Knoop 系统论述 LLM 局限于记忆技能、需结合程序合成才能胜出 ARC-AGI 的技术路径,为理解智能与抽象层次提供了可迁移的分析框架。
Mistral 发布开源多模态模型 Pixtral 12B,以 Apache 2.0 许可提供,可作为 Mistral Nemo 12B 的直接替换。
推荐理由:官方发布开源多模态模型,给出了架构细节、MMMU 分数和统一评测对比,可作为同规模开源模型选型的参考。