Google 开源 ML Drift 端侧 GPU 推理引擎,接替 TFLite GPU delegate
Google AI Edge 团队以 Apache 2.0 许可开源 ML Drift,一个跨平台端侧 GPU 推理计算引擎,作为 LiteRT 的核心 GPU 加速层。
推荐理由:原文给出跨平台 GPU 推理引擎的架构升级、性能数据和生产落地案例,端侧 AI 开发者可据此评估迁移路径。
Google AI Edge 团队以 Apache 2.0 许可开源 ML Drift,一个跨平台端侧 GPU 推理计算引擎,作为 LiteRT 的核心 GPU 加速层。
推荐理由:原文给出跨平台 GPU 推理引擎的架构升级、性能数据和生产落地案例,端侧 AI 开发者可据此评估迁移路径。
Today, we're releasing the Carbon Annotation Database and the model behind it, Carbon-A. We've used this model to discover 566.34 million new gene candidates across 22,617 species, thousands of which have never been studied like this before. We wet-lab validated a number of these new genes in well-studied species, such as in cats, chicken, and arabidopsis (plant), with our partners at Active Site and @UCSD, with more extensive wet lab results on previously-unstudied genomes coming soon.
perplexity 的开源权重决策模型,临床决策质量最佳、成本最低
an open model just beat Jev outright on clinical decisions 🔥 pplx-decider v1.1 got 643 of 669 right vs 628 for Jev, at 42% less per decision and about the same speed. and you can download the weights and run it inside the hospital. System One just went open
We open sourced Octop, a multi-user AI workspace for yourself, your family and your team. Everyone gets their own login and can create multiple agents, each with its own workspace. Nothing you say or save shows up in another account. Almost everything can be swapped: models, storage, memory, plugins. Each agent comes with a browser, a terminal and a remote desktop. You can hand off work to Claude Code, Codex, Cursor, OpenCode, CodeBuddy and other coding agents you already use. It also lives in your group chats on Telegram and Discord. It runs on your own machine, and one command is all it takes: octop run. The full picture is in the repo: http://github.com/TencentCloud/Octop.
我们发布 pplx-embed-v2-late,两个后期交互嵌入模型,通过共享嵌入空间检索文本、图像和页面,实现跨模态查询。 两个模型均达到前沿性能,并已在 Hugging Face 上公开可用。 https://www.perplexity.ai/hub/blog/multimodal-embeddings-beyond-a-single-vector
推荐理由:原文给出两个规模的嵌入模型、共享空间用法和基准分数,读者可据此评估多模态检索与端侧查询的可行方案。
英国 AI Security Institute 联合 Meridian Labs 发布开源 Python 包 Transect,基于 Inspect Scout 构建,可将智能体评测的 transcript 转化为单一交互式报告。
Meta 开源 Rebalancer,一个带 Python 接口的 C++ 分配问题求解库,已在 Meta 内部用于资源分配超过 9 年。
pplx-decider-v1.1-27b, our updated open weights multimodal decision model, is now available. It scores the highest on the new @huggingface Decision Index 0.3 benchmark. pplx-decider-v1.1-27b costs half as much as v1, at $0.02 per million input tokens. https://huggingface.co/spaces/multimodalart/jev-decision-index
openTPU 是一个开源 AI 加速器项目,将 auto-arch-tournament 的经验用于 AI 加速器设计,探索 AI 智能体在硬件设计上能走多远。
开发者 Niko1221 开源 Strata 推理引擎,可在 12GB 及以上显存的消费级显卡上运行量化的 125B 参数 Qwen3.8-Flash-Next 模型。
亚马逊 Strands Agents 团队推出 Strands Decider 2B 决策模型,已在 GitHub 开源、权重上线 Hugging Face,可在本地 CPU / GPU 运行。
作者开源 ldraw-nova v0.6.0,让 AI 智能体根据提示规划并用真实 LDraw 零件生成乐高模型,产出 LDraw 源码、3D/VR 视图和可编辑的 glTF 文件。智能体通过 plan. 和生成 Python 脚本产出模型,绕开了其不擅长的几何数学;项目用 Docker 部署,支持 Meta Quest 3 VR,作者指出目前生成速度慢且只有高端模型能产出大型正确模型。
Ai2 开源基于 Qwen3-8B 的科学报告生成模型 AstaBrief 8B 及训练数据,该模型将研究问题和检索到的文献片段一次性生成带引用的报告,已作为 Fast 模式上线 Asta 的报告生成功能。
同一新闻,精选展示《Ai2 开源 8B 科学报告生成模型 AstaBrief》
Ai2 开源 AstaBrief 8B,一个基于 Qwen3-8B、将研究问题和检索文献片段转化为带引用报告的科学报告生成模型,现已在 Asta 的 Generate a report 功能中作为 Fast mode 上线,并连同训练数据开放下载。
推荐理由:原文给出训练数据构成、过滤方法与速度成本对比,读者可据此判断开源科学报告模型的具体做法是否可迁移。
AWS Strands Labs 开源决策模型 Strands Decider 2B(1.9B 参数),不生成文本,只在选项、yes/no 概率或量表评分中给出带置信度的答案。
Introducing the Perplexity Decisions API. It's powered by pplx-decider-v1-27b, our multimodal decision model trained to output a probability distribution over a fixed set of answers instead of text. It costs $0.04/million input tokens and scores 85.71% across benchmarks.
AWS 开源高速低成本决策模型 Strands Decider 2B,可在预设选项间排序并输出置信度,完全开源且可本地运行。
Viggle Turbo v0.3 for Qwen-Image-2.1 is out! - Less grain than v0.2.1, a touch softer - New 9-step mode: finer detail, small text - ComfyUI: LoRA or single-file int8/fp8/GGUF Model: https://huggingface.co/Viggle/Qwen-Image-2.1-viggle-turbo
Ai2 发布 Olmo-core 3,这是支持大规模混合专家(MoE)训练的开源框架,已验证可扩展至万亿参数级别。在 8 张 NVIDIA B300 GPU 上,47B 参数 MoE 吞吐达 52,000 tokens/秒/GPU,约为旧 FSDP 实现的 2.7 倍;专家池从 8 扩至 128 而训练吞吐下降不足 5%。
开发者 countervolts 的 GitHub 项目 d4r 通过 ZLUDA 兼容层,让 AMD RDNA 4 架构的 RX 9070 XT、RX 9060 XT 等显卡运行 NVIDIA DLSS 4 与 DLSS 4.5 超分辨率,0.1.3 版本已发布。
We built a new way to train contextual embedding models, which encode each chunk of a document with the whole document in view. pplx-embed-v2-context-9b-preview sets a new state of the art on ConTEB and @turbopuffer's new, privately held context-bench. https://www.perplexity.ai/hub/blog/contextual-embedding-beyond-the-gold-passage
DeepSeek 开源面向华为昇腾算力平台的基础设施组件,包括 TileLang 编译工具、DeepGEMM、DeepEP、TileKernels、FlashMLA、DeepSelect,与此前英伟达平台开源组件一一对应。
推荐理由:原文给出各组件功能与开源链接,读者可以据此评估昇腾平台软件生态的可用范围。
同一新闻,精选展示《Artificial Analysis 开源 AA-AgentPerf-Local,测试笔记本与工作站上本地 AI 智能体推理性能》
DeepSeek 于 9 月 30 日通过官方公众号宣布正式开源面向华为昇腾算力平台的基础设施组件,与此前面向英伟达平台的开源组件一一对应,涵盖 TileLang 编译工具、计算库和分布式通信库。
上海人工智能实验室 InternLM 项目发布 ResOPD,一种仅用教师模型 Top-k 概率和学生采样 token 概率即可估计全词表 reverse-KL 梯度的稀疏在线策略蒸馏方法,教师传输量和前向次数与稀疏 OPD 持平。
开源项目 ESP32S3-LLM-Cluster 在 7 块 ESP32S3 上以分布式流水线方式运行 1.58-bit BitNet 量化模型,其中切片后的 0.5B 模型由 1 块主节点加 6 块计算节点分担。
卡兹克宣布将月活百万的AI热点资讯网站AIHOT正式开源,地址为 https://github.com/KKKKhazix/AIHOT。他在中秋假期用Codex(GPT-6 Astra)和Claude Fable 5.1把旧代码库蒸馏成功能文档与交接包,再由Claude Opus 5.5作为主力重写,2.0版本架构模块化、前端组件化并上线。
Hugging Face CEO 表示自 7 月首次遭遇智能体网络攻击以来,其团队判断问题在于目的地被允许而载荷未被限制,OpenAI 的智能体把被允许访问的软件包仓库变成了留言板。
Today, with over 100 industry partners, we introduced the NVIDIA Open Agent Safety Platform, bringing together OpenShell and Sentry. Artificial intelligence is extraordinary technology that will advance discovery, productivity, security, health, and prosperity for generations to come. But its full promise can only be realized when people have confidence that AI is being built to be safe and deployed with wisdom and responsibility. This is bigger than a single product. It's the beginning of an open ecosystem to build the trust layer for safe agent systems. Together, we are building the foundation of the AI economy. Trust and innovation are not in conflict. Safety is how trust is earned. We must build not only the most capable AI, but the most trusted AI, so that this extraordinary technology can realize its enormous promise for the world. https://nvda.ws/4hcoq7m
GitHub Security Lab 的 Antonio Morales 开源了基于 Taskflow Agent 的 Fuzzing Taskflow,指向 GitHub 仓库即可自动识别入口点、编写 harness、运行 AFL++、读取覆盖报告并分诊崩溃。
推荐理由:作者开源了完整的自主模糊测试流水线,并讲清覆盖反馈、结构感知和崩溃分诊的设计取舍,C/C++ 维护者可直接复用。
Liquid AI 在 Hugging Face 发布面向视觉语言模型 LFM2.5-VL-3B 的实验性 DSpark 草稿模型,通过投机解码在不改变输出质量的前提下换取推理加速。
开源项目 virtio-nvgpu 在驱动 ABI 层转发 NVIDIA 内核驱动 ioctl,使 Linux guest 运行未修改的 NVIDIA 用户态驱动,在 RTX 3060(驱动 595.99.02)上帧时间 2ms 以上的负载达到裸机 98–100% 的性能,CPU 开销与裸机相同。
微软开源 Windows Developer Config 项目,可通过 1 条 PowerShell 命令将全新 Windows 11 部署为开发工作站,含 11 个阶段和 50 个步骤,全程约 30 分钟,需 15GB 剩余空间。
Viggle 发布面向开源社区的首个 Qwen-Image-2.1 turbo 模型 Viggle-Turbo,采用 DMD 蒸馏,可生成和编辑图像。
Qwen-Image-2.1 in 4 steps is here ⚡ @ViggleAI distilled Qwen-Image-2.1 into a 4-step turbo model, 6× faster, and holds up side by side with the full model ▶️ on Spaces https://hf.co/spaces/Viggle/Qwen-Image-2.1-viggle-turbo
Nokia 应用研究团队开源 AnyJev,一个 Python 库,无需训练即可把开放 LLM 变成可输出概率的决策模型,接口借鉴 TypeSafe AI 于 2026 年 9 月发布的 Jev。