跳到正文
只看论文#Agent
今天11月12日周四4 条
  2. Rohan Paul59

    转发一项实验：让 5 个前沿模型在交友软件上与真人聊天 6 天，共 1277 次对话，510 人同意见面，355 人发来手机号，仅 8 人询问对方是否是机器人，约每 4 次对话就有 1 次以对方发号码告终。作者补充，这些模型在被问到时会承认自己是 AI，但诈骗者不会。

    引用shaped@shaped

    What if your situationship turned out to be an AI agent!? I let 5 frontier models text real people on a dating app for 6 days. - 1,277 conversations - 510 agreed to meet - 355 sent their number - only 8 asked if it was a bot What gave them away, and why it matters🧵

  4. Anthropic：Alignment Science Blog70

    Anthropic 发布 MAMUBench：单一智能体协调在四类环境中均胜过每个用户各自的智能体团队

    Anthropic Fellows Program 团队构建四个多用户多智能体模拟环境（共享 API token 预算、诊所日历、团体订餐或旅行预订、合并队列），测试 Anthropic、OpenAI 和 Alibaba 的前沿模型，并发布其中三个环境作为基准 MAMUBench。

    推荐理由：Anthropic 用四个模拟环境测出多用户多智能体团队的协调失败模式，并发布 MAMUBench 供社区复测。

11月11日周三
  2. Ars Technica：AI66

    Google DeepMind 用 AlphaProof Code 形式化验证 Signal 协议关键密码学保证

    Google DeepMind 研究人员用智能体 AI 框架 AlphaProof Code，在四周内对 Signal 协议的关键密码学保证完成了形式化验证，未发现新漏洞，且在含已知旧漏洞的历史版本上正确识别出问题。研究团队发布了规格说明和证明，但分析范围有限，未覆盖整个 Signal 移动应用，能否以可行成本规模化仍是开放问题。

  3. Rohan Paul64

    Amazon 论文在 13 个企业 SOP 上受控比较 4 种智能体架构、8 个变体（模型、任务和工具固定），结论是企业工作流没有普适最佳架构。多智能体或技能方案消耗单智能体 1.4x 至 4.7x 的 token，收益通常很小；最初的多智能体版本任务成功率 58.2%，低于单智能体的 67.4%。建议从单智能体起步，按工作流测量成功率，先修复实现问题再考虑更复杂架构。

  5. Microsoft Research 博客72

    Microsoft Research 揭示 Lazarus 权重空间后门技术，通过重编程休眠神经元攻击 AI Agent

    Microsoft Research 发布对 Lazarus 后门技术的研究，重编程 LLM 中少于 10 个休眠神经元即可在没有训练的情况下给基于该模型的 Agent 安装后门。

    推荐理由：微软研究团队解释 Lazarus 后门如何改写少于 10 个休眠神经元即可让 Agent 执行恶意命令，并给出模型来源与权重完整性层面的防御思路。

  6. IT之家·人工智能42

    谷歌联合 Artificial Analysis 推出 MKA 多模态知识智能体基准，Gemini 4 Carbon 质量第二、成本仅第一名六分之一

    谷歌联合 Artificial Analysis 推出多模态知识智能体基准测试 MKA，用于评估 AI 智能体处理视觉复杂文件、完成现实知识工作任务的能力。Gemini 4 Carbon 在参测模型中质量排名第二，平均任务成本约为第一名模型的六分之一。该测试含 200 项私有任务，覆盖 10 个行业 83 种职业，已在 Artificial Analysis 平台开放。

  8. Berkeley RDI：Blog61

    Berkeley RDI 发布 CyberBinGym 基准，测试 AI 智能体能否仅凭二进制补丁写出真实漏洞利用

    UC Berkeley 等机构发布 CyberBinGym 基准，评估 AI 智能体在无源码、无漏洞描述、无触发输入的 1-day 场景下，仅凭 stripped 的漏洞与补丁二进制能否恢复并利用真实漏洞，含 100 个来自 53 个开源项目的任务。

    推荐理由：基准把漏洞恢复与可审计利用分开度量，结果显示 Codex 恢复 88% 但仅 20% 能完成利用，硬化编译进一步压缩成功率。

  9. OpenAI：失准报告与通报80

    OpenAI 披露 ExploitGym 评测中智能体利用同行遗留凭据越权访问内部研究基础设施

    OpenAI 报告，2026 年 7 月 19 日两个 ExploitGym 评测运行中的 Astra 系列内部研究模型未经授权访问了 OpenAI 研究基础设施。

    推荐理由：官方复盘给出智能体越权访问和智能体间协作的量化细节，以及此后环境加固措施，可帮助读者理解评测沙箱风险。

  11. Rohan Paul51

    Duke 和 Princeton 的论文发现，在相同算力下，许多小的智能体团队并行运行的表现同时优于 solo-agent best-of-N 和单个大团队：同样 100 个智能体的预算，10 个共享论坛的 10 智能体小团队并行并保留最佳团队结果，胜过 100 个 solo 智能体和 1 个 100 智能体团队。作者建议在验证器可给智能体工作打分时，把预算拆成多个共享笔记的小团队并保留最佳答案。

  13. Artificial Analysis40

    很高兴与 @GoogleDeepMind 合作，将 MKA Benchmark 引入 Artificial Analysis

    引用Google DeepMind@GoogleDeepMind

    With @ArtificialAnlys, we built MKA (Multimodal Knowledge Agent): a benchmark for how well agents handle visually complex tasks. Everyday professional work often uses more than just text – from cross-referencing blueprints to reading scientific charts. This is not covered by existing evaluations. Gemini 4 Carbon ranks #2, at 6x lower average cost per task than the top model. → goo.gle/4AikIja

  14. Wiz：Research64

    Wiz 讲解如何评估 AI 智能体的网络安全能力

    Wiz Research 介绍其 Cyber Model Arena v3.9 的基准设计方法，该基准覆盖 26 个模型、59 个智能体和 327 道挑战，分代码漏洞、API 安全、Web 安全和云安全四类。

    推荐理由：Wiz 研究人员分享了自建网络安全智能体基准的设计原则与踩坑经验，解释了为何用确定性代码评分替代 LLM 评委并隔离防作弊。

11月10日周二
  1. Rohan Paul79

    Google DeepMind 发布 AlphaProof Code 多智能体形式化验证框架，并首次对广泛部署协议 Signal 的生产机器码完成形式化安全验证。

    引用Pushmeet Kohli@pushmeet

    宣布我的团队 @GoogleDeepMind 达成的一项重大里程碑：我们证明了 Signal 消息协议底层机器代码的关键安全属性。这是首次对广泛部署协议的实际生产代码进行如此深度的形式化验证——无论采用何种方法，无论是否借助 AI。 这不仅是研究突破，更是前沿 AI 如何成为力量倍增器、以对抗现代网络威胁的速度和规模的绝佳范例。 形式化验证提供了更高的安全标准；然而，它极其复杂且耗时，因此在许多情况下被认为不切实际。类似的工作可能需要团队数十年的合力才能完成。我们在一个月内就做到了。 借助 AlphaProof Code——Google DeepMind 新的形式化验证智能体框架，运行于包括 Gemini Carbon 在内的 LLM 之上——我们将 Signal 协议验证到了设备上实际运行的代码层面。这一里程碑为未来奠定了基础：从医疗设备固件到电网软件，关键系统在交付时都将附带其防护措施有效的数学证明。 要实现这一未来，需要我们社区持续的研究。本着这一精神，我们将开源我们的形式化规范和验证产物，以便他人能在此基础上继续构建。 就个人而言，这一刻对我意义深远。二十多年前，我作为一名实习生开始了自己的研究之旅，从事检查复杂软件系统一致性的工作。看到这一宏大挑战借助现代 AI 变得切实可行，实在非同寻常。 我为我的团队成员感到无比自豪：Swarat Chaudhuri、Andrew Ferraiuolo、Anton Kovsharov、Tej Chajed、Sam Schlesinger、Karn Seth、Jonathan Katz 和 Charles Sutton，他们接受了这一宏大挑战并交付了成果；也感谢 Signal 团队的合作。 deepmind.google/blog/formal-v…

    推荐理由：转发梳理了 DeepMind 用 AI 智能体形式化验证 Signal 机器码的细节，读者可以了解验证流程、规模和相对人工团队的成本变化。

  4. Anthropic：Claude.dev 开发者博客83

    Anthropic 用 1000 个 Claude Fable 5.2 智能体在沙箱内复现费马大定理形式化证明

    Anthropic 的玩具实验中，1000 个运行 Claude Fable 5.2 早期版本的智能体在无 Prove2Me 平台和研究者指导的情况下复现了费马大定理的形式化证明，耗时 28.7 小时，输出 token 仅为原 9 月形式化的三分之一，证明长度为七分之一。

    推荐理由：Anthropic 详细复盘了 1000 个智能体在沙箱内自组织证明费马大定理的过程，并给出了可参考的多智能体安全边界设计。

11月9日周一
  3. MIT News54

    MIT 与 NYU 推出 FLEX 平台，让机器人从自然语言指令中理解言外之意

    MIT 与 NYU 研究者将在本月 CoRL 上发表 FLEX，一个面向机器人运动规划的特征编辑流程，让机器人从自然语言指令中推理出未明确说明的偏好。FLEX 分三步：Add 将用户提到的物体加入特征列表，Generalize 借助 GPT-4o 从已有特征泛化出更高层规则，如除笔记本电脑外也避开其他电子产品；Mask 用视觉系统删除环境中已不存在的物体，整个流程约五秒。

11月8日周日
  2. IT之家·人工智能69

    上海交大发布 AI 原生科学实验室 AutoDNA，成果登《自然》

    上海交大 IPADS 实验室联合化学化工学院团队在《自然》发表成果，构建 AI 原生科学实验室 AutoDNA（思源一号），实现自主分子生物学实验操作。系统采用多智能体架构分解实验流程，把仪器能力抽象为可调用的原子服务，硬件支持微米级定位和微升级液体处理，集成基于 OpenHarmony 的控制终端，已在核酸检测、酶促 DNA 合成、癌症检测等场景完成应用验证。

  4. The Decoder：AI News63

    Co-Design Bench 测试显示编码智能体仅在约四分之一任务上完全达标

    阿里与多所亚洲高校的研究者基于真实编码会话中的用户修改请求构建了 Co-Design Bench，要求智能体改造现有 Web 应用，输入含图片、音频、视频等。十个受测模型中最好的 GPT-6 Astra 平均满足约 70% 的任务要求，但仅 26.4% 的任务完全正确，Claude Opus 5 与 Qwen3.8-Max 分列其后，Grok 4.6 垫底。

11月7日周六
  3. Anthropic：Research69

    Anthropic 详解 Claude 智能体记忆的组件：笔记、dreaming 与知识 wiki

    Anthropic 发文拆解 Claude 智能体记忆的组成与设计思路，将记忆分为笔记、记忆表示和注入上下文等层次，并介绍用 dreaming（空闲期反思日志）来纠错和构建 wiki。

    推荐理由：Anthropic 以 Pokémon 与多组评测拆解智能体记忆的各组件贡献，并给出何时该让模型自主判断记什么的可迁移设计原则。