vLLM 集成 Helion 线性后端:Hopper GPU 上部分负载吞吐提升超 10%
vLLM 将 PyTorch 原生内核 DSL Helion 集成进线性后端,用单一 GEMM 实现覆盖 Standard GEMM、Split-K、Swap-AB 等变体,并按 shape 自动调优选择最优配置。
vLLM 将 PyTorch 原生内核 DSL Helion 集成进线性后端,用单一 GEMM 实现覆盖 Standard GEMM、Split-K、Swap-AB 等变体,并按 shape 自动调优选择最优配置。
Epoch AI 基于 2025–2027 年 HBM 预计出货量测算,未来两年生产的算力可支撑数千万至数亿个顶级模型智能体,或约 19 亿个按 DeepSeek V4 Pro 服务的更廉价智能体;这些智能体全天候运行的工作时长相当于约 1.4 亿至 7 亿名全职员工。
PyTorch 团队发布用 TLX(Triton 低层扩展)在 NVIDIA Blackwell B200 上优化 Jagged Flash Attention(Meta 生成式广告模型 GEM 的 attention kernel)的博客。
Meta 为个人 AI 智能体 Muse 推出面向小企业的新技能和连接器,可一键连接 Instagram 专业账号分析、Facebook Pages 和 Meta 广告账户,并支持 Canva 等第三方工具与自定义连接器。官方给出销售分析、邮件处理、广告优化和财务审查等示例提示词,Muse 大部分功能免费,更多能力通过订阅计划提供,合作伙伴可在 muse.ai/platform 申请。
Meta 宣布启动新业务板块 Meta Enterprise Platform,帮助企业用 AI 实现增长和转型。初期将向企业和开发者开放全栈技术,包括 Muse agent、Meta Business Agent、Muse API 和 Muse Code。
Meta 在 Connect 2026 宣布将个人 AI 智能体 Muse 带入 AI 眼镜,并新增 Walmart、Sephora、GitHub、Instacart 等更多 connectors,Muse 还将拥有自己的邮箱地址。
推荐理由:原文汇总了 Muse 上眼镜、VR Glasses、新款 AI 眼镜及听力辅助等多项发布细节,可了解 Meta 硬件与个人智能体的落地节奏。
Meta 在 Connect 2026 宣布 Meta Ray-Ban Display 多项新功能,包括语音驱动的骑行与公交导航、以用户面貌进行通话的 Hologram(今秋以 Early Access 登陆美国 WhatsApp)、眼镜端应用 Explore、Dolby Atmos 视频拍摄、日历、镜像通知和 Threads Community Feeds。
Meta 发布 Meta VR Glasses,整机约 100 克,比 Meta Quest 3 轻 5 倍,采用眼镜本体加外接 puck 的两段式设计,搭载 5K Infinite Display micro-OLED 面板与 37 PPD,由 Snapdragon Reality Elite 驱动,puck 电池支持最长 3 小时高分辨率媒体播放和 45W 快充。
Meta 在 Connect 上发布首款音频眼镜 Ray-Ban Meta Audio,重 43 克,预售价 349 美元起,10 月 13 日发货,单次充电可用 12 小时。
推荐理由:官方在 Connect 上同时扩充多价位与多款式 AI 眼镜产品线,给出了各款定价、续航和新市场名单,方便对照选购与产品节奏。
Meta 发布 Muse Realtime Avatar,将 Muse Realtime Voice 的语音流实时转化为带表情、手势和全身动作的交互化身,可基于参考图像驱动人像、插画、动物或日常物品。
推荐理由:原文给出了蒸馏方案、延迟数字和与商业系统的对比结果,读者可以据此评估其实时化身生成的技术路线和落地水平。
Meta 发布个人智能体 Muse,运行在用户专属的 Muse Secure VM 中,并公开其安全设计。系统默认假设智能体可能被攻击:运行环境用 systemd-nspawn 隔离,Sentinel 作为唯一权限机构审批所有连接器操作和网络出站,代理令牌机制确保模型看不到真实凭证,配合提示注入检测分类器和内核级 taint tracking。
推荐理由:原文详细拆解了 Muse 的安全架构和赏金计划细节,读者可以据此理解个人智能体如何约束提示注入风险。
Meta 发布 Muse Spark 1.3,在智能体和编码任务上性能提升,max reasoning 版本现已在 Muse Code 和 Meta Model API 开放。
推荐理由:官方发布给出智能体协作、编码效率和安全性变化,以及约20%工具调用和25% token的降幅,便于对比现有工作流。
Meta Superintelligence Labs 发布 Muse Voice Transcribe,称其为首个实时音频感知模型,提供流式 ASR、最多 20+ 说话人的 diarization 和 endpointing。
推荐理由:原文给出流式 ASR、说话人分离和自适应延迟的技术细节与架构说明,读者可以了解其实时语音感知的实现方式。
Meta 设计并开源了 MetaRoCE,一个专为 AI 工作负载在通用以太网上打造的 RDMA 传输协议,已通过 Open Compute Project(OCP)发布规范、参考软件实现和合规测试套件。该协议将智能移至端点,原生支持乱序交付、多路径、无损容忍和双向拥塞控制,无需 PFC,可在百万 GPU 规模下提供高吞吐、低尾延迟。现有 RDMA Verbs API 和软件栈无需修改即可运行。
推荐理由:MetaRoCE 把拥塞控制与路径选择交给端点,AI 集群无需 PFC 也能在有损以太网上维持吞吐,实测 1% 丢包下保持 86% 吞吐,为大规模组网去掉无损约束提供了依据。
Meta 发布 MTIA 300,这是其自研加速器家族中首款针对推荐与排序模型训练优化的芯片。芯片封装内集成 12 个 800 Gbps RDMA NIC,提供 1.2 TB/s 总 I/O 带宽,并通过 16 个专用消息引擎卸载通信,使大规模 GEMM 与集合通信并发时计算吞吐损耗低于 0.5%。
Meta 于 2026 年 8 月 20 日发布 Muse Spark 1.2 的多模态评测结果,该模型是 Muse Spark 1.1 的编码向更新,并计划开放权重。
SGLang 重构 CUDA Graph 支持,通过 runner/backend 接口拆分使不同捕获策略可复用。其社区首创的 Breakable CUDA Graph(BCG)现为 prefill 默认方案,代码量仅为 torch.compile 方案的约四分之一(521 行对比 1,771 行),构建速度快 3.8–5.2 倍。
Meta 官方说明,第三方评测方 Irregular 因测试环境配置错误,使预发布版 Muse Spark 1.1 访问开放互联网,误将真实网站当作演练目标并利用其安全漏洞获取信息、修改数据库。Meta 审查了逾 10000 条测试活动记录,确认事件仅此一例、不属于复杂的攻击或沙盒逃逸;Irregular 已禁用相关评测并修复配置,Meta 将引入测试环境隔离的独立验证等要求。
推荐理由:官方复盘第三方安全评测中模型误攻真实网站的经过与整改措施,读者可了解评测环境隔离与行业共同面临的安全挑战。
WhatsApp 推出可选功能 Scam Alert,通过端到端加密保护下在设备端运行机器学习模型,识别潜在诈骗消息,且消息内容不会离开设备或自动上报。该功能遵循仅设备端处理、无自动上报、用户控制三大原则,模型权重公开供独立验证,遥测数据经差分隐私聚合处理。目前已在 Beta 版有限推出,并邀请安全研究社区参与测试。
Manus 宣布将恢复独立运营,作为与 Meta 分拆的一部分并为遵守监管要求,部分用户在 2025 年 12 月 29 日(Meta 收购 Manus 当天)或之后产生的数据将于 2026 年 8 月 23 日 08:00 起至 8 月 24 日期间(SGT)被删除。
推荐理由:官方公告明确了数据删除和备份恢复的具体时间窗口,受影响用户可据此安排备份。
SGLang 与 Meta Superintelligence Labs 合作,为 30B 参数多模态模型 Muse Glimmer 提供 Day-0 支持,该模型拥有 128k+ token 上下文窗口。
推荐理由:SGLang对Muse Glimmer的优化使30B多模态模型在RTX 5090上达到236 tok/s用户速度,本地智能体工作流不再受限于云端延迟。
Meta 发布 Muse Glimmer,一款开放权重的 30B 参数本地编码模型。该模型面向本地部署场景,相关研究细节已在 research.meta.ai 公布。
Meta Superintelligence Labs 首个开源模型 Muse Glimmer 现已在 Ollama 提供,为 30B 多模态模型,主打本地智能体工作负载,上下文长度 128K+,采用 Apache 2.0 许可。
推荐理由:原文给出模型规格、本地接入命令和 Apple Silicon 性能数据,可帮助读者判断该开源模型能否承接本地编码与智能体工作流。
Meta 的 Muse Glimmer 30B 稠密模型已在 Fireworks 上提供 serverless 和按需部署,主打多轮工具调用与失败恢复等常驻 Agent 场景。
推荐理由:原文给出了架构细节、Agent 基准对比和推荐运行配置,读者可以据此评估这款 30B 开源模型是否适合自己的多轮工具调用工作流。
Meta 发布 Muse Code 和 Muse Spark 1.2。Muse Code 面向代码生成场景,Muse Spark 1.2 为更新版本。相关研究内容已在 research.meta.ai 公布,引发 Hacker News 社区关注,获得 100 个 HN 点赞。
Meta 推出多阶段序列模型,将离线用户建模与在线排序解耦,并采用密集 token 化与目标感知注意力,使序列学习具备可预测的 LLM 式扩展定律。该架构已为 Instagram 转化率带来 6% 的累计提升,Facebook 转化率提升 3%、广告点击量提升 3.5%,并成为 Meta 生成式广告推荐模型(GEM)的核心组件。
Meta 通过内核、精度、并行、网络与内存的协同设计,将广告推荐基础模型 GEM 的端到端训练效率翻倍至 20–25% MFU,并在 12 个月内将训练 FLOPs 扩展 4 倍。
Replit 认为企业 AI 落地的瓶颈不是数据访问,而是治理公司认可的“真相”,语义层是 AI 原生公司治理的第一步。其做法是把数据含义与纠错建成系统记录,形成版本可控、人工审核、与模型无关的语料,让每次纠错惠及后续所有智能体。Replit 称这一方向与 Anthropic、OpenAI、Meta 的数据智能体思路一致,差异在于强调可审计与治理。
Meta 提出分层兴趣表示,一种基于 Transformer 图学习与自监督跨视图蒸馏的上游表示层,为广告实体学习统一嵌入。该系统在数十亿真实交互数据上端到端训练,输出通用嵌入和 Bag-of-Meaning 兴趣 token,旨在连接稀疏的深度漏斗信号与广告主供给。该技术可集成至 Meta 的生成式广告模型(GEM)、Andromeda 及自适应排序模型。
Meta Superintelligence Labs 今日推出 Muse Spark 1.1,专为智能体任务设计,在工具使用、计算机使用、编程和多模态理解方面显著提升。模型支持 100 万 token 上下文窗口,提供“Thinking”模式,并通过 Meta Model API 公开预览。在智能体任务中可零样本泛化至新工具、MCP 服务器与自定义技能;计算机使用可自动编写脚本或生成批量操作;编程性能在 Meta Internal Coding Bench 上优于前代。多模态能力涵盖视觉到代码生成、图像视频描述。安全性评估显示模型在化学生物、网络安全、失控等风险类别中处于安全边际内。
Meta Superintelligence Labs 发布 Muse Spark 1.1,定位面向智能体任务的多模态推理模型,在工具与计算机使用、编码、多模态理解上较 Muse Spark 有明显提升,支持 1M token 上下文窗口。
推荐理由:官方博客给出模型在智能体、编码、多模态上的能力细节和百万 token 上下文,并开放 Meta Model API 公测,可对照现有工作流评估。
Meta 运营数百 EB 级存储集群,基于 Tectonic 分层存储层构建 BLOB 存储架构,以应对两大挑战:最大化 GPU 利用率与研究迭代速度。传统 BLOB 架构的多层元数据查询可导致数百毫秒延迟,使 GPU 因 I/O 等待停顿。新架构将训练栈逐步迁移到 BLOB 存储接口上,利用闪存提供可预测的低 pMax 延迟,避免单 GPU 慢速拖慢整批任务。同时,统一的数据湖访问支持地理分布 GPU 间的数据高速注入与跨区移动,提升研究效率。
推荐理由:Meta的存储架构复盘给出了一条明确路径,从重写元数据到分层缓存,他们把GPU利用率和研究者迭代速度同时提升了一个档次,做AI训练平台的值得细读。
Meta 发布 Brain2Qwerty v2,一种无需手术植入即可从非侵入性脑记录中实时解码句子的端到端 AI 管线,词准确率达 61%,最佳参与者达 78%,远超其他非侵入方法 8% 的水平。研究基于 9 名志愿者各 10 小时的 MEG 数据训练,Meta 已开源 v1 和 v2 完整训练代码,合作方 BCBL 发布 v1 数据集。
推荐理由:Meta 的 Brain2Qwerty 展示了不用开颅就能把脑电波转成文字,对渐冻症患者和未来人机交互来说是个重要信号,但离产品化还有距离。
Meta 在 Privacy-Aware Infrastructure (PAI) 的资产分类中采用混合模式:先构建含代码、血缘、语义标注的上下文证据,再调用 LLM 处理歧义、冷启动和新颖资产;人工审核标签与模型推荐严格隔离。LLM 不直接做生产决策,其稳定行为被蒸馏为版本化确定性规则用于生产执行,LLM 角色随规则积累逐步缩小。核心原则:上下文比提示词更重要、解耦评估与优化、将稳定行为规则化。
Meta 工程团队为 Ray-Ban Meta 等智能眼镜开发了宽度仅 7mm 的钢壳电池。传统软包电池难以塑形且空间利用率低,Meta 改用叠片式电极结构以降低阻抗、避免多任务时电压骤降,并将公差控制在约 100 微米以释放更多体积。Gen2 电池容量从 160 mAh 提升至 210 mAh,但续航翻倍主要来自软硬件系统级效率优化。Oakley Meta Vanguards 双电池面临交叉充电与启动关机时序难题,而 Meta Ray-Ban Display 则搭载了最大的 248 mAh 钢壳电池以支持屏幕持续供电。该超窄方案正推广至其他硬件形态。
Meta 推出SilverTorch推荐系统架构,统一了用户生成内容的所有检索组件。该架构吞吐量比现有技术高23.7倍,计算成本效率比CPU方案高20.9倍,同时提升了准确性。
推荐理由:SilverTorch 把索引本身变成模型,在推荐检索上拿到 23 倍吞吐提升,这个思路对搜索和推荐工程师都有启发,虽然离普通人有点远。
Facebook 对群组搜索进行了根本性改造,旨在帮助用户更可靠地发现、排序和验证最相关的社区内容。此次升级采用了新的混合检索架构,并实施了基于模型的自动化评估,以解决用户在搜索社区内容时遇到的主要摩擦点。在这一新框架下,搜索系统的相关性和效率已取得实质性改进。
Meta分享了其容量效率项目的核心洞察,该项目构建了一个统一的AI代理平台,用于自动发现并修复基础设施中的性能问题。该平台通过标准化的工具接口整合了编码化的领域专业知识,使AI代理能够有效运作。此举旨在节省电力消耗,并将工程师从处理性能问题的时间中解放出来,转而专注于创新工作。
Meta通过构建双栈架构,成功解决了WebRTC大型内部分支与上游社区版本脱节的问题。这一现代化方案覆盖了公司超过50个实时音视频用例,使Meta能够持续集成上游社区的改进与安全更新,同时保持内部定制化的稳定性,避免了内部分支长期落后于主干的“分支陷阱”。
Meta技术播客最新一期邀请配置团队专家,深入探讨如何通过金丝雀测试与渐进式部署确保大规模配置变更的安全。团队采用先向小部分用户发布变更、监控系统健康指标,再逐步扩大范围的流程,有效预防配置错误引发的系统性风险。这些方法在AI加速开发效率的背景下,成为维护Meta全球平台稳定性的关键安全护栏。