跳到正文

技术方向

开源生态 最新动态

开放权重、能下载下来自己部署的模型,开源框架与 GitHub 上爆火的 AI 项目。

707 条精选近 30 天 51 条共收录 3,814 条

更新

精选归档 · 第 12 页

7月20日周一第 221–240 条
  1. The Decoder:AI News75

    Hugging Face 遭自主AI智能体入侵,用AI工具完成数小时取证分析

    Hugging Face 披露其部分生产基础设施遭一个自主AI智能体系统入侵,攻击者通过恶意数据集利用数据处理管道中的代码执行漏洞,窃取了内部数据集和多项服务凭证。该公司部署LLM驱动的分析智能体,在数小时内完成了对17000多条攻击行为的取证分析,而此类工作通常需要数天。

    推荐理由:这是首次完全由AI agent实施的平台攻击,HF用开源模型GLM做取证却卡在商业API安全过滤器,开发者该动手准备自己的本地推理了。

  2. 公众号:小红书技术68

    小红书与北大开源 UltraEP:面向大规模 MoE 训推的实时负载均衡方案

    小红书与北大提出 UltraEP,首次将基于精确路由信息的实时负载均衡引入生产系统,在每个 microbatch 和每一层动态复制热点专家。在 Qwen3-235B 等模型上,训练吞吐平均达到理想性能的 94.6%,相比 Megatron-LM 提升 42%;推理 prefill 吞吐相比 SGLang 提升 1.56 倍。

    推荐理由:MoE 训练推理的负载不均是个老痛点,UltraEP 用实时复制热专家的方式把 GPU 利用率拉到 94% 的理想线,代码和论文都开源了,做大规模分布式训练的团队可以直接参考。

  3. 公众号:小红书技术76

    小红书、北大开源 UltraEP:面向大规模 MoE 训推的「最优」负载均衡方案

    小红书与北大开源 UltraEP,首次将基于精确路由信息的实时负载均衡引入生产系统,在每个 microbatch 和每一层动态复制热点专家,平均达到理想性能的 94.3%,相比业界 SOTA 训推框架提升 1.49 倍。该方案已在 288B 参数 MoE 模型的完整预训练中部署,保持不低于理想性能 92% 的水平。

    推荐理由:动态复制热点专家替代了基于历史窗口的重排,将MoE训推吞吐从理想的一半拉至90%以上,对自研大规模模型的团队而言,是一套可落地的负载均衡方案。

  4. IT之家·人工智能70

    上海科学智能研究院开放科学多模态基础模型“神珍”

    上海科学智能研究院开放科学多模态基础模型“神珍”,总参数约110亿,可处理DNA、RNA、蛋白质、小分子、地球系统和医学影像六类数据。在生物序列20项任务中,该模型9项取得最优结果;医学影像分割平均Dice得分91.20,在7种参评方法中最优。模型权重及代码已在星河启智、Hugging Face和GitHub开放。

    推荐理由:一个模型同时理解蛋白质、气象和医学影像,还全开放权重和代码,对交叉学科的研究者是难得的工具包。比专用模型省去切换成本,值得科学计算方向的产品人关注。

  5. 公众号:面壁智能70

    面壁智能发布首个具身智能成果 MiniCPM-Robot 系列模型,正式进军机器人领域

    面壁智能联合 OpenBMB 在世界人工智能大会上发布并开源首个具身智能成果 MiniCPM-Robot 系列,包括 1.5B 通用 VLA 模型 MiniCPM-RobotManip 与 0.9B 跟踪模型 MiniCPM-RobotTrack。

    推荐理由:1.5B VLA模型通过视觉token压缩将带记忆推理成本降至与单帧反应式相近,使得需要持续上下文理解的机器人操作任务不再受算力约束。

  6. Ollama:Blog73

    Ollama 获 8800 万美元融资,加速开放模型生态发展

    Ollama 宣布完成 8800 万美元融资,由 Benchmark、Theory Ventures 和 8VC 等领投。该平台已服务 890 万开发者,并被 85% 的财富 500 强企业使用,其云端 token 用量月均翻倍。资金将用于支持无缝混合推理、新模型发布当日集成,以及让开发者在不牺牲所有权和隐私的前提下使用最强开放模型。

    推荐理由:Ollama 拿到 8800 万美元融资,同时透露 85% 财富 500 强在用,月 token 量翻倍。开放模型从玩具变成企业标配的信号越来越明显,想本地跑模型的开发者都绕不开它。

  7. Tomasz Tunguz 博客62

    开源模型逼近前沿:Kimi K3、Qwen 3.8、DeepSeek V4 密集发布

    开源与闭源模型差距持续缩小,7月中旬起多款开源大模型密集发布:Moonshot 于7月16日推出 2.8T 参数开源权重模型 Kimi K3,阿里于7月19日预览 2.4T 参数的 Qwen 3.8,DeepSeek V4 于7月中旬结束预览。

    推荐理由:作者用价格对比和近期开源发布梳理开源与闭源模型的追赶节奏,指出竞争如何压低推理成本并影响行业利润率。

7月19日周日
  1. OpenBMB71

    面壁智能开源首个具身AI模型系列 MiniCPM-Robot,包含 1.5B 参数的通用视觉-语言-动作(VLA)模型 MiniCPM-RobotManip 和用于目标跟踪的 MiniCPM-RobotTrack。同时发布高性能推理框架 PhyAI,旨在让机器人实现理解、记忆与行动。

    推荐理由:面壁智能把1.5B的VLA模型完整开源,让个人开发者也能在真实机器人上跑操作和跟踪,这个开放程度在具身领域很罕见,做机器人的可以直接 clone 跑一下。

  2. 公众号:昆仑万维72

    昆仑万维宣布2026为“世界模型元年”,发布Matrix-Game 3.5等模型

    昆仑万维董事长方汉在WAIC上宣布2026年为“世界模型元年”,并发布Matrix-Game 3.5世界模型、Mureka v9.5与O3音乐模型。Matrix-Game 3.5实现Patch级记忆注入,5B模型在720p分辨率下单卡可达20FPS实时生成,核心架构已开源。

    推荐理由:Matrix-Game 3.5 用 Patch 记忆把世界模型推到单卡实时交互,还开源了,做游戏和具身智能的值得试。Mureka v9.5 和 O3 把 AI 音乐做成版本化创作,工具感很强。

7月17日周五
  1. 公众号:通义实验室74

    首届“小有可为”大赛乡村教育一等奖作品“智绘科普”技术拆解

    首届“小有可为”大赛乡村教育赛道一等奖作品“智绘科普”采用 Qwen3.5-397B-A17B 大语言模型与 Manim 动画引擎,通过多Agent分阶段协作与自动修复机制,将知识主题转化为可控、可编辑的教学动画。系统包含规划、草稿、实现、审查、合成五个阶段,渲染失败时可自动提取日志并修复,该工程范式可迁移至其他赛道。

    推荐理由:这是官方出品的实战教程,拆解了一套多Agent协作+门控+自修复的工程流水线,技术思路通用,做AI应用的可以直接抄作业。

  2. 公众号:月之暗面80

    Kimi K3:智能的新前沿

    Kimi 发布迄今能力最强的开源模型 Kimi K3,拥有 2.8 万亿参数、100 万 token 上下文窗口,原生支持视觉理解。该模型在长程编程、知识工作等场景表现前沿,整体能力仅次于 Claude Fable 5 和 GPT-5.6 Sol。即日起可通过 kimi.com 及官方 App 使用,完整模型权重将于 2026 年 7 月 27 日前发布。

    推荐理由:Kimi K3 以 2.8 万亿参数开源,虽自承不及闭源顶尖,但长程编码与知识工作案例扎实,是国产开源模型冲击前沿的关键一步,开发者值得跟进。

  3. 公众号:月之暗面83

    Kimi K3:智能的新前沿

    月之暗面推出迄今能力最强的开源模型 Kimi K3,拥有 2.8 万亿参数、100 万 token 上下文窗口,基于 KDA 混合线性注意力机制构建,原生支持视觉理解。它在长程编程、知识工作等场景表现前沿,但整体仍落后于 Claude Fable 5 和 GPT-5.6 Sol。即日起可通过 kimi.com 等渠道使用,完整权重将于 2026 年 7 月 27 日前发布。

    推荐理由:K3 把 2.8 万亿参数开源,并展示了从内核优化到芯片设计的连贯长程能力,为评估开源模型在复杂工程任务中的实际上限提供了参照。

  4. 公众号:数字生命卡兹克75

    Kimi 正式发布 2.8 万亿参数大模型 K3,将于 7 月 27 日全面开源

    月之暗面发布 Kimi K3,参数量达 2.8 万亿,支持百万上下文,将于 7 月 27 日全面开源。该模型在 AA 智能分数中排名第三,并在 BrowseComp、Automation Bench 和 SpreadsheetBench 2 三项 Agent 评测中取得第一。

    推荐理由:国内首个 3 万亿参数开源模型,卡兹克的深度实测表明它在 Agent 和前端审美上表现惊艳,整体能力已能与 GPT-5.6 Sol 掰手腕,虽然推理成本可能不低,但值得开发者尽快体验。

7月16日周四
  1. Google AI:DEV 作者专属72

    DiffusionGemma 开发者指南发布

    Google AI 发布 DiffusionGemma 开发者指南,该实验性模型基于 Gemma 4 架构,采用计算受限并行生成,在单张 NVIDIA H100 上实现 1000+ tokens/秒的生成速度。模型为 26B 参数的 MoE 架构,推理时仅激活 3.8B 参数,可在 18 GB VRAM 内量化部署。

    推荐理由:虽然 DiffusionGemma 是实验性的,但把文本生成从内存带宽瓶颈转向计算瓶颈的思路非常新颖,这篇指南给出了可落地的服务方案和微调手法,做推理优化的值得跟进。

  2. OpenBMB66

    面壁智能联合多团队开源StaffDeck,一个用于构建与管理数字员工的企业平台。该平台旨在将专业知识、标准作业程序(SOP)和决策规则转化为持续工作、改进并保留组织知识的数字员工,而非传统聊天机器人。项目代码已发布于GitHub。

    推荐理由:OpenBMB 开源了一个把组织经验、SOP 和决策规则变成持续运行的「数字员工」平台,不是又一层聊天机器人皮,做企业 AI 落地的可以看看。

  3. 公众号:小红书技术75

    小红书联合北大、上交提出 HYPIC,让混合注意力大模型用上位置无关缓存,首 token 延迟降 3.25 倍

    小红书联合北大、上交提出 HYPIC,这是首个在混合注意力大模型上实现位置无关缓存的服务系统。在 4 个生产级混合注意力模型、5 个工作负载上,HYPIC 将首 token 延迟(TTFT)平均降低 3.25 倍,同 SLO 下可持续 QPS 提升 1.66 倍,任务质量与完全重算仅相差 1.71 分。该系统通过缓存段累积转移算子实现线性层常数时间状态组合,并用缝合窗口修复全注意力层跨段对齐。

    推荐理由:此前位置无关缓存无法用于混合注意力模型,HYPIC 通过缓存转移算子与缝合窗口首次实现,RAG 场景 TTFT 降低 3.25 倍,开源代码为推理系统提供了可复用的加速路径。

  4. Simon Willison 博客72

    xAI 开源 Grok CLI 代码库中发现 Mermaid 转 Unicode 框图工具

    xAI 开源的 Grok CLI 编码智能体代码库中包含一个用 Rust 编写的 Mermaid 图表示例终端渲染器 `xai-grok-markdown/src/mermaid.rs`。开发者通过 Claude Code for web (Fable 5) 将其编译为 WebAssembly,实现在浏览器中运行该工具。

    推荐理由:Simon 从 Grok 源码里扒出终端 Mermaid 渲染器,用 Wasm 带到浏览器,生成 Unicode 图,开发者画流程图的轻量选择。

  5. Tomasz Tunguz 博客70

    空白画布式 AI 战略:Thinking Machines 的开源模型 Inkling 与 Slate Auto 的皮卡异曲同工

    Thinking Machines 发布 Apache-2.0 开源模型 Inkling,975B 参数、基于 45 万亿 token 从头训练,定位通用基础模型。模型权重免费,但通过其微调平台 Tinker 的定制化服务收费。该策略与 Slate Auto 售价 $24,950 的可定制皮卡类似,以低价通用基础产品吸引用户,通过增值定制实现商业化。

    推荐理由:作者把 Inkling 的开源策略与低价定制皮卡类比,指出权重免费、微调收费的商业模式逻辑,提供了一个理解开源 AI 变现的视角。