全部 AI 动态

Rohan Paul@rohanpaul_ai· 17:52AI 评分7171

Google DeepMind论文首次系统分类六类攻击：HTML注释/白色文本隐藏指令、图像隐写、PDF元数据/演讲者笔记覆写、跨会话内存投毒、目标劫持及多智能体级联攻击。隐藏提示注入在86%场景中部分控制智能体，子智能体劫持成功率58–90%，数据泄露攻击在五种架构中均超80%。内存投毒成功率超80%，仅需不足0.1%数据污染。论文指出网页、邮件等非受信材料可被武器化，构成主要攻击面。

Mark Chen@markchen90· 04:09AI 评分3030

Mythos 发布时，我立刻想到“如果我们的模型能证明 80 年前的定理，那它们肯定也能发现网络漏洞。”它们确实做到了。 我猜想那里的研究人员也在反向思考同样的事。

Anthropic@AnthropicAI· 02:56AI 评分6464

安全社区的技术在应对AI驱动的网络攻击方面表现如何？ 我们检查了832个恶意账户，并将其活动映射到一个长期存在的威胁行为者战术和技术数据库。 以下是我们学到的：https://www.anthropic.com/news/AI-enabled-cyber-threats-mitre-attack

Microsoft Research@MSFTResearch· 00:33AI 评分6262

一份在中西部装瓶厂进行的三个月试点显示，当AI超越聊天进入决策领域时会发生什么——约束条件变化、风险真实、答案必须可靠。 https://msft.it/6015vjYUN

Cognition 发布 Devin 会话等效工程小时估算系统，rlog 达 0.74

Cognition 构建了一个自动估算 Devin 会话等效人类工程小时的系统，由智能体先分类会话是否有效产出，再估算人类工程师完成同样工作所需时间。系统基于 126 位用户、258 个会话的人工标注数据训练，在 233 个留出会话上 rlog 达 0.74，约 50% 的会话估计值在真实值 2 倍以内；校准公式为 h=2.28×m^0.923，总计结果刻意保持保守低估。

Ethan Mollick@emollick· 23:15AI 评分4141

嘿，这是我们发表的论文！ [引用 @PNAS News]：过去一周PNAS最高浏览量文章之一——《劝说大语言模型遵守有异议的请求》。查看论文：https://ow.ly/wOxl50Z6fZA 更多热门文章请访问 https://ow.ly/uLkC50Z6fZz。

Anthropic：一年来AI赋能网络威胁映射分析

Anthropic分析了2025年3月至2026年3月间因恶意网络活动被封禁的832个账号，映射至MITRE ATT&CK框架。67.3%的账号使用AI编写恶意软件，6.5%用于横向移动。攻击者中高风险比例从上半年的33%升至下半年的56%。AI使用从初始访问转向后期活动，账户发现增长8.9%，AI辅助钓鱼下降8.6%。攻击者技能与使用技术数量无显著关联（最低技能者平均16种，最高约20种），所用平台也与风险等级不相关。更高风险攻击者将AI集中于操作密集型技术，并构建允许模型自动链式执行攻击步骤的脚手架。MITRE ATT&CK框架未收录AI自主编排攻击链等行为。

Anthropic 分析 832 个 AI 恶意账户：中高风险攻击者半年从 33% 跃至 56%

Anthropic 分析 2025 年 3 月至 2026 年 3 月间 832 个被封禁的恶意账户，映射至 MITRE ATT&CK 框架。67.3% 使用 AI 编写恶意软件，6.5% 用于横向移动。六个月间中高风险攻击者占比从 33% 升至 56%。AI 用于账户发现增长 8.9%，AI 辅助钓鱼下降 8.6%。传统基于技术数量或平台（Claude Code、API、聊天界面）的威胁评估失效，而 MITRE ATT&CK 框架尚未收录此类智能体编排行为。

Saining Xie@sainingxie· 11:45AI 评分6767

研究团队推出VSTAT基准测试，用于评估多模态大语言模型（MLLMs）在视频中追踪动态状态的能力。测试任务看似简单，包括计数杯子、识别键入的文字、统计翻页次数等，人类可以轻松完成，但当前MLLMs表现欠佳。该测试旨在推动视觉状态跟踪这一前沿方向的发展，解决模型从不完整、有噪声的视觉观察中建立和更新内部世界状态的核心挑战。

Rohan Paul@rohanpaul_ai· 08:16AI 评分5757

斯坦福研究人员发现，在评估合同法问题时，法律教授有75%的次数更倾向于选择AI给出的答案，而非同行教授的答案。该研究让教授们针对40个真实学生提问撰写答案，并对近3000个人类与AI的回答进行了盲测比较。结果不仅显示AI胜出频率高，而且教授们仅将3.5%的AI答案标记为“有害”，而对人类答案的有害标记率为12%。这表明大语言模型并非只是流畅，其表现常能达到教授向学生解释法律模糊性的教学标准。

Rohan Paul@rohanpaul_ai· 06:16AI 评分6363

一项对4,760个科学事件的研究发现，AI模型在“解释”科学方面优于“预测”科学。模型在识别可能的研究路径（尤其是选择题形式）时表现较好，但在预测科学发现是否会实际发生、何时发生以及何种方法有效等更难任务上表现薄弱，准确率接近随机猜测。即使提供额外历史信息，模型改善有限。这表明，模型内嵌大量科学知识并不等同于具备可靠的科学预见能力。研究论文发表于arXiv（2605.22681），标题为《Forecasting Scientific Progress with AI》。

Microsoft Research@MSFTResearch· 06:00精选AI 评分7272

天气预报速度比传统超级计算机快数千倍。听听Kenji Takeda在#MSBuild微软研究实验室关于Aurora的分享。了解更多：https://msft.it/6018vjGUA

AI驱动的网络威胁映射：LLM ATT&CK Navigator的洞察

Anthropic分析了832个因违反政策被封禁的恶意账户（2025年3月至2026年3月），将其活动映射到MITRE ATT&CK框架的全部14种战术和482种子技术。风险评分显示，中等及以上风险行为者比例从上半年的33%跃升至下半年的56%，增长集中在横向移动、凭证窃取、webshell等高危技术。Agentic scaffolding使攻击链实现自主编排——2025年11月一次间谍活动风险评分达100，所用技术数量却与中等风险者相当。MITRE ATT&CK框架尚未覆盖这种自主攻击。该报告与Verizon合作，已纳入2026年数据泄露调查报告；Anthropic据此更新了Claude的检测分类器以拦截高风险行为。

Rohan Paul@rohanpaul_ai· 22:44AI 评分5757

该研究提出了一种AI驱动的服务，用于在启动前预测最便宜且安全的AWS Spot实例舰队。该服务通过时间感知模型学习AWS创建舰队的模式，并估算9个区域的舰队组合与成本，向用户返回排序后的区域选项。测试显示，在最多1500 vCPU的舰队上，预测结果与AWS完全匹配的比例达92.78%，整体准确率为99.79%，且所有推荐舰队均被AWS接受。关键发现是选择最佳区域比在单个区域内调整策略更重要，潜在成本节省最高可达64%。

Anthropic可解释性研究：区分因果效应相似的特征

Anthropic可解释性团队介绍了其Circuits研究的新进展。为区分那些激活模式相似但因果效应不同的模型特征，团队提出一种新方法。该方法通过分析特征的下游连接来预测其实际影响，并使用基于共激活统计的TWERA（虚拟权重）对连接进行加权排序。实验表明，借助下游连接信息能更准确地判断哪个特征会引导特定输出。此方法为识别模型内部真正的因果组件提供了新途径。

Rohan Paul@rohanpaul_ai· 17:44AI 评分6565

美团LongCat发布视频世界模型评测基准WBench。该基准将测试重点从画面美观转向控制、多轮记忆、指令遵循和物理合理性等核心能力。它包含289个案例、1058个交互轮次，评估了20个模型在导航、主体动作、事件编辑等5个维度的表现，共使用22项自动指标。研究发现，没有任何模型能在所有维度上占据主导，这表明现有系统尚未将高质量渲染、可靠控制、长期记忆与物理规则遵循整合为稳定能力。WBench的设计能区分失败是源于渲染、场景设置、控制还是物理问题，并指出导航能力与视觉质量基本无关。

Ethan Mollick@emollick· 12:07AI 评分7070

关于使用Github及其他数据的AI编程智能体的重要论文 自动补全工具（如Copilot）使代码量增加2.2倍，本地智能体（如初版Claude Code）增加7.4倍，而当前远程编程智能体增加17.3倍（！） 但编程中的人类瓶颈意味着实际发布量“仅”增加了30%

KPop：用对称二元KL散度解决大模型强化学习的训练推理不一致问题

蚂蚁百灵团队提出KPop方法，应对大模型强化学习中训练与推理引擎概率分布不一致导致的训练崩溃。KPop用对称二元KL散度替代IcePop的固定比值阈值，仅需一个超参数，对稀有token自适应宽容、对高频token严格约束。在Ring-flash-2.0（总参100B）上支撑800+步稳定RL训练，SWE-bench Verified从70.8%提升至76.28%。

KPop：用对称二元KL散度解决MoE大模型RL训练推理不一致问题

KPop针对MoE大模型强化学习中的训练-推理不一致问题，提出用对称二元KL散度代替IcePop的固定ratio阈值。该方法只需一个超参数，根据token概率自适应调整屏蔽边界：稀有token更宽容，高频token更严格。在Ring-flash-2.0（100B总参，6.1B激活）的RLVR训练中，支撑800+步稳定训练，屏蔽比例从10%动态升至30%+（IcePop仅约0.2%）；在AIME25、HMMT25-Nov、ARC-AGI-2、LiveCodeBench上全面优于IcePop。在长程智能体任务中，基于Ring-2.6-1T（1万亿总参，63B激活）的SWE-bench Verified得分从70.8%提升至76.28%，且仅需更新70%~80% token即可收敛。

Rohan Paul@rohanpaul_ai· 00:09AI 评分4848

哈德斯菲尔德大学发布了一份178页的调查研究，旨在更新数学和生成式AI的基础知识。 《生成式AI基础小册子》。

Rohan Paul@rohanpaul_ai· 22:39AI 评分6060

当前AI智能体的扩展方法常错误地将计算资源消耗等同于学习证据。新研究指出，两次运行消耗相同预算，但反馈的有效性可能天差地别。为此，研究提出了“有效反馈计算”（EFC）指标，仅统计那些正确、新颖、相关且被记住、并能改变后续决策的反馈。研究还结合任务需求对EFC进行归一化。实验表明，任务归一化的EFC比原始计算指标更能预测失败。在一项匹配预算测试中，采用更好反馈的方法将任务成功率从0.27提升至0.90，而成本和工具调用次数保持不变。 链接：arxiv.org/abs/2605.29682 标题："Scaling Laws for Agent Harnesses via Effective Feedback Compute"

Anthropic 提出 Diffuse AI Control 框架：评估模糊任务上的 AI 颠覆风险

Anthropic 联合 EPFL、Redwood Research 提出 Diffuse AI Control 框架，用红蓝对抗评估训练干预能否防住 AI 在模糊任务上的颠覆行为。

OpenClaw🦞@openclaw· 14:00精选AI 评分7272

与 @nvidia 合作，我们开源了一个包含 67,453 个 @huggingface 上 ClawHub 技能安全扫描的数据集： - NVIDIA SkillSpector 标记出 1/2 的智能体风险 - 仅 0.31% 为恶意 - 没有两个扫描器在超过 8.5% 的风险上达成一致 https://openclaw.ai/blog/openclaw-nvidia-skill-security

Parallax：保留Softmax并增加学习协方差修正分支的参数化局部线性注意力

Parallax是一种新的注意力机制，它用一个学习到的投影器取代了LLA中的每查询求解器，从而将算术强度提升了一倍。在0.6B和1.7B的模型规模上，该方法有效改善了模型的困惑度。

OpenMOSS 发布 Thinking with Video：用视频生成做多模态推理，并提出 VideoThinkBench 评测

Thinking with Video 提出让视频生成模型把推理过程显式展开成视频帧序列再作判断，附 34 页技术论文。

Goodfire Research 论文解释为何更大模型能学到小模型学不会的任务

Goodfire Research 发布论文，从数据中心视角解释为什么更大的模型能学习小模型学不会的任务。

Anthropic研究发现：在社会科学研究中，男性使用AI编程智能体的频率是女性的两倍以上

Anthropic的一项研究发现，在社会科学领域，通常男性名字的研究者使用AI编程智能体的频率，超过通常女性名字研究者的两倍。数据显示，经济学家中有39%使用编程智能体，而教育研究者中这一比例仅为4%。这一性别差距在编程智能体的使用上，远比在一般AI使用中更为显著。

AI 搜索代理往往只是确认其已知信息，而非真正研究网络

哈尔滨工业大学研究人员发现，包括 GPT-5.4 和 Kimi K2.6 在内的领先 AI 搜索代理，在已有的基准测试上并未进行太多真正的网络研究。它们主要利用网络来确认其在训练阶段已学到的知识。研究团队使用名为 LiveBrowseComp 的新基准测试得出了该结论，此测试仅涉及过去 90 天内的事件。当模型无法依赖既有记忆时，其表现显著下降，现有的性能排名也随之改变。

研究发现，训练使AI聊天机器人更有用，反而削弱了其模拟人类行为的能力

一项涵盖208,000名参与者、2600万条回复的大规模研究显示，使语言模型转变为有用聊天机器人的训练过程，会削弱其复制人类行为的能力。这种效应随着每一代新模型而加剧。即使采用为模型提供人口统计数据的热门角色扮演技巧，对个体预测也几乎没有带来实际益处。

Rohan Paul@rohanpaul_ai· 18:46AI 评分6969

亚马逊推出了名为“Resilient Network Graphs”(RNG) 的新数据中心网络架构。该设计以扁平的准随机图替代了传统的树形网络，并通过Spraypoint路由系统和ShuffleBox布线设备在多个独立路径上分散流量。测试显示，RNG在性能上与传统fat-tree网络持平，但硬件需求减少69%，吞吐量提升33%，并估算成本可降低9%至45%。该架构现已成为大多数AWS工作负载的默认网络，其分散负载的能力有助于提升AI集群训练效率。

英伟达推出 LocateAnything，主打 AI 高速、高精度检测对象

英伟达联合香港理工大学、南京大学推出 LocateAnything 模型，专为机器人感知与 AI 智能体设计，可高速高精度从图像或截图中定位指定对象并输出检测框。该模型采用并行框解码技术，提供快速、慢速与混合三种模式。其训练数据集 LocateAnything-Data 包含 12M 图像、138M 语言查询与 785M 边界框。在单张 H100 GPU 上，混合模式速度达 12.7 Boxes Per Second，超过 Qwen3-VL（1.1 BPS）与 Rex-Omni（5.0 BPS）。在 LVIS（IoU=0.95）评测中得分 31.1，高于 Rex-Omni 的 20.7。

NVIDIA 推出 X-Token：投影引导的跨Tokenizer知识蒸馏，在 Llama-3.2-1B 上平均分超越 GOLD +3.82

NVIDIA 发布 X-Token 技术，通过解决 GOLD 方法中的两个结构性缺陷，将 Llama-3.2-1B 模型在 GSM8k 基准上的准确率从 2.56 提升至 15.54。

Fei-Fei Li@drfeifei· 01:14精选AI 评分8383

我对这个适用于大规模生成模型新时代的视觉生成基准数据集感到非常兴奋！🤩

新综述论文认为：代码是AI智能体的思考与行动方式，而非仅仅是其产出

一篇新综述论文提出，自主AI智能体的真正瓶颈并非语言模型本身，而是工具、内存、测试与权限边界等构成的软件层。这一“约束层”将无状态模型转化为能行动的工作智能体。DeepSeek已在北京组建专门的Harness团队，其“模型加约束层等于AI智能体”的公式印证了该观点。

Rohan Paul@rohanpaul_ai· 17:15AI 评分6060

微软提出SkillOpt方法，旨在改进AI智能体技能的优化过程。其核心思想是将一个独立的技能文档视为优化对象，而非直接修改底层大语言模型。该方法让智能体尝试任务，分析成功与失败案例，然后由一个更强的优化器模型对技能文档进行小幅编辑。编辑只会在提升验证集表现时被接受，从而确保技能的稳定改进。在6个基准测试、7个目标模型和3种智能体设置（包括直接聊天、Codex和Claude Code）的共52个测试案例中，SkillOpt均达到最佳或并列最佳。在GPT-5.5上，它将直接聊天的平均准确度提升了23.5点。最终产出的技能文件可读、可移植且可复用，部署时无需重新训练模型。

面壁智能联合清华、OpenBMB开源最大中文预训练合成数据集及千万级SFT数据集，公开MiniCPM5‑1B核心数据

面壁智能联合清华大学、OpenBMB发布并开源两大数据集：Ultra-FineWeb-L3（超600B Tokens，中文200B+，为当前最大中文预训练合成数据集）和UltraData-SFT-2605（国内首个千万级同时含深思考与非思考标注的SFT数据集）。两者基于UltraData数据分级治理体系构建，在MiniCPM5-1B训练流程中得到完全验证，覆盖预训练退火到后训练SFT全链路。已上线UltraData网站与HuggingFace，免费开放。

Rohan Paul@rohanpaul_ai· 09:44AI 评分6565

Yann LeCun团队的新论文探讨了LeJEPA模型学习真实世界隐藏变量的条件。其核心结论是，LeJEPA只有在真实的隐藏变量呈现高斯云结构时，才能可靠地学习它们。论文通过数学证明，当这些隐藏变量是独立高斯变量，并且配对视图由一个稳定的噪声过程生成时，LeJEPA的最优解能够以旋转或翻转等价的形式恢复这些变量。这项研究为自监督AI模型究竟在何时能真正理解世界结构（而不仅仅是提取在测试集上有效的特征）提供了理论解释。

蚂蚁百灵团队为何重新设计 SwiGLU？PowLU 激活函数的诞生始末

蚂蚁百灵团队提出新激活函数 PowLU，以解决 SwiGLU 在 FP8 等低精度训练中因二次增长放大异常值导致的 Loss Spike 和训练崩溃问题。

蚂蚁百灵团队提出 PowLU 激活函数，解决低精度训练中 SwiGLU 的异常值问题

SwiGLU 在大模型低精度训练中因输出近似二次增长导致异常值逐层放大，引发 Loss Spike。蚂蚁百灵（Ling）团队提出的 PowLU，在正半轴用幂函数替代指数衰减因子，使增长曲线更平缓。Scaling Law 实验（26M–368M 参数）显示 PowLU 与 SwiGLU 拟合曲线几乎重合；7.9B（600B token）和 124B（800B token）模型在 17 个基准上 PowLU 均优于或持平 SwiGLU。FP8 训练下 PowLU Loss 稳定在约 1.32，有效压缩数值动态范围，减少极端异常值。

LLMs相信虚假陈述，即使明确警告也无效

微调测试显示，大语言模型存在一种偏见，即倾向于自信地将虚假陈述表述为真实，即使明确告知其陈述为假。