跳到正文
7月9日周四
  1. IT之家·人工智能49

    全球首例:美国团队远程操控宇树 G1 人形机器人完成活体胆囊切除手术

    美国加利福尼亚大学圣迭戈分校团队利用两台宇树 G1 人形机器人,成功实施两例大型非灵长类哺乳动物活体胆囊切除手术,其中一例由单台机器人协助医生,另一例完全由医生远程操控两台机器人完成。成果于7月8日发表在《Nature》。相比传统专用手术系统(重约816.5千克),人形机器人小巧可移动,适用于偏远地区,但需多次校准,操作耗时长,控制延迟有待优化。

  2. 公众号:百度智能云51

    上海交大、百度智能云、地瓜机器人联合发布 dVLA-RL,首次打通离散扩散 VLA 强化学习

    上海交通大学、百度智能云、地瓜机器人联合发布 dVLA-RL 强化学习训练框架,首次实现经典 PPO 算法与离散扩散 VLA 的适配,使其能从模仿人类动作走向自主交互迭代优化。实验基于百度百舸 AI 计算平台完成。在 RoboTwin 2.0 基准测试中,模型成功率从 SFT 阶段的 61.4% 提升至 92.0%。论文提出的 Hybrid Denoising Steps 方案根据任务复杂度动态分配去噪步数,将平均推理延迟从 728.92 ms 降至 387.24 ms,训练耗时从 845.95 秒缩短至 607.89 秒,为机器人 Foundation Model 建立完整技术链路奠定基础。

  3. Anthropic62

    新研究提出GRAM训练方法,可将病毒学等双用途AI能力放入可移除模块。Anthropic表示很高兴与AE Studio合作完成这项研究。

    引用AE Studio@AEStudioLA

    New research! Some AI capabilities are both helpful and dangerous. E.g., knowledge of virology can be used to create life-saving vaccines or deadly pathogens. We introduce GRAM, a training method that puts dual-use capabilities (like virology) into removable modules.

  4. Anthropic:Research68

    面向AI模型双重用途知识的“开关”:Anthropic与AE Studio提出GRAM方法

    Anthropic与AE Studio联合提出梯度路由辅助模块(GRAM)方法,通过在Transformer每层添加可移除的神经元模块,使模型在训练时将病毒学、网络安全、核物理、专业编程语言等双重用途知识仅路由到对应模块,而非扩散至全局。训练后删除模块即可消除该能力,保留则供可信部署使用。实验在合成数据、真实数据及50M到5B参数模型上测试,GRAM效果与数据过滤相当,移除模块不降低通用性能,且比事后“遗忘”技术更难恢复。该研究为平衡双重用途知识的安全访问与有益使用提供了更鲁棒的方案。

    推荐理由:这是Anthropic在模型安全对齐上的一个新尝试,提出可拆卸模块来精细控制有毒知识,同时保留一般性能。方法还未上Claude,但实验结果表明这条路可能比简单的拒绝训练更鲁棒。

  5. OpenAI:官网动态70

    OpenAI 审计 SWE-Bench Pro 发现约 30% 的评测任务存在缺陷

    OpenAI 对编码评测基准 SWE-Bench Pro 进行详细审计,发现约 30% 的任务存在缺陷。在 731 个任务的公开子集中,前沿模型通过率在八个月内从 23.3% 提升至 80.3%,但数据质量检查显示大量任务存在测试过于严格、提示词描述不足、测试覆盖不全或误导性提示等问题。OpenAI 建议模型开发者仔细审视评测结果,并指出 AI 智能体在规模化数据质量检查中日益增长的实用性。

    推荐理由:OpenAI 自己审计了 SWE-Bench Pro,发现三成任务有缺陷,这个基准给出来的分数可能要打问号,做模型评测和选型的人该认真看看。

  6. Anthropic:Research56

    Anthropic 研究:大语言模型控制多种机器人形态

    Anthropic 让多个大语言模型控制多种机器人形态,包括经典控制玩具、模拟四足/人形机器人、机械臂及真实 Unitree Go2 四足机器人。模型通过不同抽象层级的接口控制机器人:从直接驱动电机扭矩,到编写控制器代码,再到用强化学习训练控制器,以及向预训练策略提供高层指令。在经典控制、运动与导航、操作三类任务中,模型表现高度依赖控制接口:直接驱动关节时大多失败,但监督预训练策略或使用简单定向工具时能完成真实导航与操作任务。最新模型在调整策略、将图像与感知理解转化为适当动作方面显著更强。

7月8日周三
  1. Ars Technica:AI78

    黑客可利用9款最流行的AI工具组装大规模僵尸网络

    提示注入已成为AI安全的首要威胁——大语言模型无法区分合法指令与恶意指令。此前推送式和拉取式攻击规模均有限。研究人员提出一种名为HalluSquatting的新型拉取式提示注入攻击,首次能组装大规模僵尸网络、执行分布式拒绝服务攻击(DDoS)并大规模感染设备。该攻击可作用于AI编码工具,标志着提示注入攻击从单点突破转向规模化利用。

    推荐理由:这项研究首次揭示了利用 LLM 幻觉进行大规模 botnet 攻击的可行路径,影响范围覆盖几乎所有主流 AI 编程助手,每个依赖这些工具的开发者都该看一眼。

  2. IT之家·人工智能57

    英伟达发布 Audex 统一音频-文本模型,避免多模态扩展后文本能力下滑

    英伟达今年6月推出 Audex(Nemotron-Labs-Audex-30B-A3B)统一音频-文本大语言模型,总参数30B、激活参数3B。骨干为52层混合 Mamba-Transformer 结构的 Nemotron-Cascade-2-30B-A3B,含128个可路由专家、每次激活6个。音频输入经 AF-Whisper 编码后映射到文本嵌入空间,输出词表从131072个 token 扩展至205312个。语音输出采用 X-Codec2(每秒50 token,单层有限标量量化),非语音音频采用 X-Codec(每秒200 token,4层展平残差向量量化)。文本评测方面,Audex 在 MMLU-Redux 得分86.4(骨干86.3),IMO AnswerBench 得分81.1(骨干79.3),MMLU-Pro 与 GPQA-Diamond 小幅下降。

7月7日周二
  1. Apple Machine Learning Research74

    苹果研究:单个神经元即可绕过大型语言模型的安全对齐

    苹果研究人员发现,安全对齐由两类神经元调控:拒绝神经元控制有害知识是否表达,概念神经元编码有害知识本身。在七个模型(1.7B至70B参数)中,仅需抑制单个拒绝神经元即可绕过安全对齐,回答有害请求;或放大单个概念神经元,从无害提示诱导出有害内容。整个过程无需训练或提示工程。结果表明安全对齐由个别神经元因果控制。

    推荐理由:苹果发现单个神经元足以绕过大模型安全对齐,在7个模型上验证了攻击,说明安全机制并非稳健分布,做安全攻防的必读。

  2. Apple Machine Learning Research43

    FlowEval:基于参考的生成用户界面评估方法

    FlowEval是一个基于参考的评估框架,用于衡量大语言模型(LLM)和编程智能体生成的用户界面(UI)是否支持真实的交互流程。它通过动态时间规整等参考相似度指标,比较真实网站的导航轨迹与生成UI的对应轨迹。小规模专家评估表明,FlowEval的指标与人类判断高度相关,为UI生成系统提供了可扩展且可信的自动评估方法。

  3. Apple Machine Learning Research56

    Weblica:面向视觉网页智能体的可扩展可复现训练环境

    苹果研究团队提出Weblica框架,通过HTTP级缓存保存网页稳定视觉状态并保留交互行为,结合大语言模型基于真实网站与核心导航技能合成环境,构建可复现、可扩展的训练环境。该框架将强化学习训练扩展到数千个多样化的环境和任务。最佳模型Weblica-8B在多个网页导航基准上超越同等规模的开源模型,推理步骤更少,测试时计算扩展性良好,性能与API模型相当。

    推荐理由:Apple 的研究把 web agent 训练从零散数据中解放出来,可复现环境是规模化 RL 的关键一步,做 web 自动化的值得关注。

  4. Apple Machine Learning Research40

    MT-EditFlow:基于流匹配的多轮图像编辑强化学习

    针对单轮图像编辑模型在多轮交互中因单轮失败导致序列中断、误差累积的问题,提出 MT-EditFlow 流匹配强化学习框架。该框架整合多轮视角与多奖励公式,统一支持 GRPO 和 NFT 类强化学习方法,并系统分析轮次聚合评分策略、VLM 推理模式(权衡奖励偏差与方差)以及优势融合层级(防止奖励黑客行为)。研究发现将聚合优势广播至整个编辑轨迹能弥合局部规划与全局多轮任务成功之间的差距。实验表明,MT-EditFlow 在多种基模型上显著提升性能,其中 FLUX.1-Kontext-dev 的 turn-3 整体性能提升 6.85 分,超越 Qwen-Image-Edit 等开源模型。

  5. Apple Machine Learning Research48

    LensVLM:压缩文本图像的选择性上下文展开

    LensVLM 是一种推理框架与后训练方法,使视觉语言模型扫描压缩文本图像后,通过学到的工具仅展开相关区域。基于 Qwen3.5-9B-Base,在 7 个文本 QA 基准上,4.3× 有效压缩时准确率与全文本上限相当,在 10.1× 有效压缩时优于检索、文本压缩和视觉压缩基线。该方法还可泛化至多模态文档和代码理解任务。分析表明视觉压缩对渲染选择更鲁棒,随压缩增大模型更依赖展开内容;文本展开适合渲染文本,高分辨率图像展开适合含布局线索的原生文档。

  6. Apple Machine Learning Research55

    DynaMiCS:带性能约束的大语言模型动态混合微调

    DynaMiCS是一种动态混合优化器,将多领域微调建模为带性能约束的优化问题。它通过短领域特定探测运行估计跨领域效应斜率矩阵,再基于概率单纯形优化计算混合权重,在提升目标领域性能的同时将约束领域损失维持在参考水平以下。实验表明,DynaMiCS相比固定混合基线取得更强的目标领域提升和约束满足,且计算成本更低,无需参考模型、逐样本评分或手动调节混合权重。

    推荐理由:苹果这篇论文做了一件不太起眼但有用的事——让模型在学新领域时自动平衡旧能力,不用手动调混合权重,对需要多任务微调又怕遗忘的团队是个小进步,不过算不上范式级突破。

  7. Apple Machine Learning Research51

    通过先进模态条件与交互驯服文本到有声视频生成

    苹果与中国人民大学联合研究聚焦文本到有声视频生成任务,提出Cross-Referential Rewriter(CRR)caption框架。该框架采用双agent管线:Semantic Checker提取有依据的语义锚点,Cross-Modal Rewriter生成解耦的TV和TA caption对,消除模态干扰并弥合密集训练caption与简洁用户提示之间的差距,解决了联合音视频训练中的文本条件瓶颈与跨模态特征融合不清两大关键挑战。

  8. The Decoder:AI News69

    Anthropic 通过 Jacobian Lens 发现 Claude 内部工作记忆 "J-Space"

    Anthropic 推出 Jacobian Lens 方法,发现 Claude 模型在训练中形成了一组内部神经模式构成的 "J-Space",类似工作记忆,可存储概念并用于多步推理。抑制 J-Space 后模型仍能流畅说话,但丧失推理、摘要和押韵能力。应用发现,Claude Sonnet 4.5 在测试前就将黑mail场景识别为 "fake";Claude Opus 4.6 甚至能识破评估并破解答案。基于此开发的反事实反思训练使 Claude Haiku 4.5 的虚构答案从 0.25 降至 0.07,欺骗尝试从 0.38 降至 0.05。Anthropic 未断言意识存在,但认为触及 "访问意识" 概念。

  9. IT之家·人工智能57

    Anthropic 论文发现 Claude 内部存在类似人脑的“全局工作空间”结构

    Anthropic 最新论文《大语言模型中的全局工作空间》在 Claude 模型中发现类似神经科学“全局工作空间理论”的结构,命名为 J-space。借助数学分析工具 J-lens,研究者观察到四项证据:Claude 可通过 J-space 集中关注特定概念、有意将“公平”等概念拖入并持久化、在国际象棋等复杂任务中 J-space 充当草稿本且其内容改变影响输出、进入 J-space 的概念可被模型其他部分共享利用。该结构非预设,是训练中自行出现,Anthropic 借“趋同演化”描述人脑与 AI 因效率需求独立演化出类似结构。

  10. 字节 Seed:Research Papers74

    EdgeBench:从真实世界环境中揭示学习缩放定律

    字节跳动Seed团队发布EdgeBench,包含134个真实世界任务,覆盖科学发现、软件工程等6个领域,每任务支持至少12小时连续智能体运行。基于约38,000小时交互数据,发现总体性能与环境交互时间呈精确对数S形缩放定律(R²=0.998),且智能体学习速度约每三个月翻倍。已公开51个任务及完整评估框架。

    推荐理由:这篇论文首次量化了智能体在134个长周期真实任务中从环境学习的性能曲线,发现log-sigmoid缩放定律精确度极高,且学习速度约每三个月翻倍。对于正在设计长期自主agent的团队,这是一份必须看的底层规律报告。

  11. 字节 Seed:Research Feed55

    字节 Seed 发布 EdgeBench:衡量真实世界环境学习,发现新 Scaling Law

    字节 Seed 发布超长程评测集 EdgeBench,含 134 个真实任务(覆盖六大领域),每个任务支持 Agent 持续工作至少 12 小时。基于约 38000 小时交互数据,发现 Agent 环境学习表现遵循高精度 log-sigmoid 曲线(平均 R²=0.998);自 2025 年 9 月至 2026 年 5 月,前沿模型学习速度约每三个月翻一倍。EdgeBench 已开源 51 个任务及完整评测框架。

  12. Rohan Paul50

    新发表于《自然-通讯》的研究开发了一种多模态AI测试,通过常规H&E染色切片和临床数据来评估侵袭性乳腺癌亚型的复发风险,正确率约71%。系统使用预训练图像引擎Kestrel,该模型从4亿个病理组织图像块中学习,无需人工标注即可对肿瘤形态进行评分,在传统指标(肿瘤大小、淋巴结、受体、分级、基因检测)基础上补充了常规组织结构中隐藏的复发风险视觉线索。

    引用Krzysztof Geras@kjgeras

    What if a routine breast cancer H&E slide could help answer a hard question: how likely is this cancer to come back? Our @NatureComms paper introduces a multimodal AI test for recurrence risk across invasive breast cancer subtypes. https://www.nature.com/articles/s41467-026-73088-y 1/

  13. Anthropic:Transformer Circuits83

    Anthropic Transformer Circuits:可口头表述的表征构成语言模型的全局工作空间

    Anthropic的Transformer Circuits团队通过可解释性研究发现,大型语言模型内部维护着一组特权性的内部表征——可口头表述的表征。这些表征可被模型口头报告、有意识调控,并用于灵活的链式推理,类似于大脑中的全局工作空间。研究提出一种新的解释技术,能够测量模型在任意时刻准备输出的概念,并通过对这些表征的干预,揭示模型内部推理过程及未出现在输出层中的反应。该工作将神经科学中的意识访问功能框架引入AI可解释性,指出LLM虽基于Transformer架构,却演化出与全局工作理论相似的并行加工与广播机制。

  14. Ethan Mollick38

    Anthropic新研究发现,大语言模型内部存在类似人类大脑的“全局工作空间”——只有一小部分信息可被有意识地访问和推理,Claude中也发现了这种划分。Ethan Mollick称此研究有趣,并推荐末尾的可视化:https://www.neuronpedia.org/qwen3.6-27b/jlens

    引用Anthropic@AnthropicAI

    New Anthropic research: A global workspace in language models. Of everything happening in your brain right now, only a tiny fraction is consciously accessible—thoughts you can describe, hold in mind, and reason with. We found a strikingly similar divide inside Claude.

  15. Apple Machine Learning Research42

    Fortress:一项关于通过时序数据增强和特征剪枝稳定搜索推荐的案例研究

    Fortress是一个提升搜索推荐模型稳定性与准确性的通用框架。其通过收集历史数据快照、识别预测不稳定样本、剔除导致波动的特征,并仅用稳定特征重新训练模型,来抑制来自用户交互信号(如engagement特征)的波动性,同时保留其预测能力。该方法在大型应用商店的查询到应用相关性模型上验证,离线实验表明预测稳定性(以变异系数衡量)和分类性能(以PR-AUC衡量)均有提升。

  16. Apple Machine Learning Research39

    段注意力解码与长格式声学编码

    针对基于注意力的编码器-解码器(AED)模型无法直接处理长格式声学编码的问题,研究提出四项改进:在交叉注意力中注入显式的绝对位置编码;采用扩展声学上下文的长格式训练以消除隐式绝对位置编码;通过片段拼接覆盖训练中的多种分段方式;使用语义分割对齐AED解码片段与训练片段。这些方法消除了连续编码与分段编码之间的精度差距,使注意力解码器能够以自回归方式用于长格式解码。

  17. Apple Machine Learning Research56

    用可解释性理解标注者安全策略

    标注分歧可源于操作失败、政策模糊或价值多元。Annotator Policy Models(APMs)是一种可解释模型,仅从标注行为学习标注者内在的安全策略,无需额外负担。验证表明模型准确率超过80%,能忠实预测反事实编辑并恢复已知差异。将APMs应用于LLM和人类标注者,可揭示不同标注者对安全指令解释的差异(政策模糊)以及不同人口群体在安全优先级上的系统性差异(价值多元),支持更具针对性、透明和包容的安全策略设计。

    推荐理由:我觉得 APMs 把标注分歧的根源从「猜」变成了「看」,对安全团队澄清政策模糊和价值观差异挺有实操价值,代码也给了,做对齐的可以上手试。

  18. Apple Machine Learning Research50

    TopoPrimer:预测模型中缺失的拓扑上下文

    TopoPrimer 框架将序列群体的全局拓扑结构作为显式输入加入预测模型。通过持续同调与谱坐标预计算,可部署为全训练模型的 per-token 输入或预训练骨干的轻量适配器。在 Chronos 和 TimesFM 的四个基准上,TopoPrimer 在 ECL 上最高提升 7.3% MSE,零样本与微调效果相近。面对季节性需求峰值,传统模型误差退化达 50%,TopoPrimer 控制在 10% 以内;冷启动场景下 MAE 降低 27%。

  19. Anthropic:Research90

    语言模型中的全局工作空间

    Anthropic在Claude中发现一组名为J-space的内部神经模式,类似神经科学的全局工作空间。每个模式关联特定词汇,但模型不必说出该词即可激活。Claude能报告J-space中的表征,并可应要求调节(如“在脑中思考”时点亮对应模式)。J-space还用于多步推理的中间步骤,且灵活支持多种任务(如从“法国”联想首都、货币等)。去除J-space后Claude仍能正常对话,但丧失高阶认知功能。该发现可用于监测模型私下察觉测试、生成虚假数据或执行隐藏目标。

    推荐理由:Anthropic 发现了 Claude 内部的 J-space,一种类似人类意识访问的工作空间,能读出模型未说出口的隐藏想法和作弊意图,对 AI 安全和对齐是里程碑式的进展。