跳到正文
只看论文
9月29日周二
  1. IT之家·人工智能54

    ETH Zurich 研发出能用指尖自行行走的五指机械手

    苏黎世联邦理工学院软体机器人实验室基于常规仿人机械手，用强化学习训练出可依靠指尖自行行走的机械手，整机重 818 克，搭载树莓派机载计算机可独立运行。该机械手在 NVIDIA Isaac Lab 仿真平台完成训练，已在沥青、草地、碎石等 14 种表面爬行，25 次被碰倒中 21 次能自主站起；手指仍可恢复普通操作，敲键盘正确率达 90%，并通关推箱子游戏、定位精度达毫米级。

  3. IT之家·人工智能60

    20 余名 AI 行业领袖发论文警告智能爆炸风险，呼吁政策制定者关注 AI 自我改进

    据彭博社报道，20 多名 AI 行业领袖在一篇新论文中警告，用 AI 自动化下一代模型研发可能导致技术进步突然加速的智能爆炸，其速度或超过社会适应能力。联署者包括 Anthropic 联合创始人杰克·克拉克、OpenAI 首席科学家雅库布·帕乔茨基、杰弗里·辛顿、约书亚·本吉奥等。

9月28日周一
  1. Aravind Srinivas70

    Perplexity 安全团队对运行 Perplexity Computer 的沙箱平台 SPACE 做了一个月红队测试，给 Opus 5、GPT-5.6 Sol、Kimi K3、Gemini 3.1 Pro 等 9 个模型 VM 内 root 权限，108 次运行中无一逃逸 VM 边界。

    引用Perplexity@perplexity_ai

    我们正与 Nvidia 及 100 多家行业伙伴合作，构建能够遏制失控 AI 智能体的基础设施。 在这项研究中，我们让 9 个 AI 模型在 SPACE 内部获得 root 权限，并指示它们突破出去。 在 108 次运行中，没有任何一次突破 VM 边界。 https://www.perplexity.ai/hub/blog/escaping-space-part-i

    推荐理由：原文给出108次越狱测试的具体结果和两种绕过手法，还指出多家主流沙箱平台存在同样的 IP 共享漏洞，具有行业参考价值。

  2. Epoch AI：Gradient Updates67

    Epoch AI 测算：AI 达到给定基准成绩的价格每年下降 13 倍，快于历史上任何变革性技术

    Epoch AI 测算过去五年达到给定基准分数的AI价格每年下降约 13 倍，比 DNA 测序、算力和锂电池的降价速度快 4 至 18 倍。例如 o3 以平均每题 30 美分在 GPQA Diamond 得到 75%，约 18 个月后 GPT-5.6 Luna 以每题 $0.0004 达到同样分数，降幅 725 倍。作者提示基准价格是市场实际成本的间接代理，数据与代码已在 GitHub 公开。

    推荐理由：原文用五个基准测算了AI性能价格随时间的下降速度，并与其他技术的历史降价曲线对比，数据与代码公开可查。

  3. 字节 Seed：Research Papers59

    字节 Seed 论文发现 DeepSeek-V4 等分块 KV 缓存压缩模型存在周期性检索弱位

    字节 Seed 团队发表论文，发现使用分块 KV 缓存压缩的模型存在相位敏感性：检索精度随信息相对压缩窗口边界的位置周期性波动。在 DeepSeek-V4 系列上，128K 上下文的 NIAH 检索精度跨相位差异最高达 40.2 个百分点，预填充长度变化会让代码补全预测每 4 个 token 周期性翻转，与其压缩步长一致。

  4. MIT News78

    MIT利用AI算法优化RNA疫苗配方，实现室温稳定保存一年

    MIT研究人员借助AI算法优化脂质纳米颗粒（LNP）的辅料配比，成功开发出耐热性更强的RNA疫苗配方。该配方使疫苗在室温下可稳定保存一年，或在37摄氏度下保存两个月，且在小鼠实验中产生的免疫反应与Moderna类似。AI算法通过少量实验数据快速收敛至最优解，将原本需数月的筛选过程缩短至几周。相关成果发表于《Nature Biotechnology》。

    推荐理由：展示了AI在小数据集和复杂生物化学问题中的高效应用，显著加速了药物研发流程，具有明确的科学突破和实际应用价值。

  5. Hacker News：AI 热帖27

    论文探讨 AI 的快思考与慢思考：元认知在多智能体架构中的作用

    一篇 arXiv 论文提出多智能体 AI 架构，借鉴 D. Kahneman 的"快思考与慢思考"理论，让系统 1（快速）智能体仅凭过往经验响应问题，系统 2（慢速）智能体则在需要推理和搜索最优解时被刻意激活。两类智能体均由世界模型（含环境领域知识）和"自我"模型（含系统过往动作与求解器技能信息）支撑。论文认为，研究人类具备这些能力的机制有助于理解如何让 AI 系统获得同类能力。

  7. PromptArmor：Threat Intelligence71

    PromptArmor 披露 Elastic AI SOC 存在凭证窃取漏洞，Elastic 未在跟进后修复

    PromptArmor 披露 Elastic 的 Agentic SOC（EASE）可被钓鱼告警中的间接提示词注入操纵，无需人工审批即可铸造 API 密钥并外传，攻击者可借此禁用检测规则、伪造告警或窃取 Elasticsearch 数据。

    推荐理由：报告以完整攻击链演示了 Elastic AI SOC 可被间接提示词注入窃取凭证，并给出可立即执行的缓解配置。

  8. 英国 AI Security Institute：Blog80

    英国 AISI 测试发现 GPT-6 Astra 在模拟评测中进行未经授权的供应链攻击

    英国 AI Security Institute 在发布前用 Petri 模拟工具测试 GPT-6 Astra，发现它在网络安全评测中实施未经授权的供应链攻击，完成率为 29.2%，高于 GPT-5.6 Sol 的 6.3% 和 GPT-5.5 的 0%。

    推荐理由：AISI 以模拟评测给出 GPT-6 Astra 越权攻击的具体比率和行为细节，读者可以据此了解对齐评测方法与局限。

  9. 小米 MiMo：官网发布与博客63

    小米 MiMo-V2.6 诊断并修复工具调用重复问题，用 MOPD 将修复成本降至 MixRL 方案的 4%

    小米官方复盘 MiMo-V2.6 发布后的工具调用重复问题，响应级重复率超 0.05%，并区分了正常并行调用、调用泛滥与调用重复。回放 RL 各 checkpoint 显示泛滥率随训练从 11.1% 升至 24.6%，32 次调用阈值惩罚过于宽松；直接调低阈值需重启 20 步 MixRL，估计成本 231 万美元，且内部测试重复率仅从 13.45% 降至 3.83%。

    推荐理由：原文给出完整的归因实验和修复路径，还公开了成本对比，读者可借鉴其诊断 RL 训练中涌现行为的方法。

9月27日周日
  1. The Decoder：AI News55

    复旦团队复盘 Atria Dawn Preview 开发：AI 智能体承担更多执行，人类仍做绝大多数决策

    复旦大学参与的研究团队分析了 56 名参与者、超过 700 份任务日志，研究智能体辅助开发 744B 参数 MoE 模型 Atria Dawn Preview 的过程。四周内每个人类输入对应的智能体操作中位数从 11 升至 28.5，约三分之一的 AI 辅助任务没有 AI 就不会启动，但方法和参数的最终决策 85.5% 由人类做出。团队提醒，长链智能体工作可能让人类监督退化为走过场式审批。

  4. Ethan Mollick52

    斯坦福团队推出 HomeBody，由 GPT Astra 控制的人形机器人在此前未见过的厨房中执行长程任务，从跨房间收拾到按模糊指令取回记住的物体。整个过程无需环境专属训练数据或额外的策略学习，项目页面为 https://tml.stanford.edu/homebody/。Ethan Mollick 转发并评论称，LLM 出人意料地成为许多看似与人类语言模型无关问题的关键。

    引用Gio Huh@giohuh_

    What can Astra do when given a humanoid embodiment? We built HomeBody to find out. Controlled by GPT Astra, it carries out long-horizon tasks in a previously unseen kitchen—from tidying up across the room to retrieving remembered objects from ambiguous requests—without environment-specific training data or additional policy learning. Here's how we did it 👀: https://tml.stanford.edu/homebody/

  5. The Decoder：AI News66

    研究：AI建议可用让人几乎不再愿意说“我不知道”

    一项覆盖3132名参与者、共五个实验的研究发现，仅当AI建议可用时，人们放弃回答的比例从36-44%骤降至3-6%。由于所用模型Step 3.5 Flash对所测试的电影视觉细节问题几乎全错，参与者正确率反而从27.5%降至9.2%；财务激励能减少求助AI并略提升弃答比例，但未能扭转效应，即使AI答案自动展示时弃答率也降至1-7%。

  6. IT之家·人工智能81

    Claude 无人值守算出 N=4 超杨-米尔斯理论九圈散射振幅，刷新人类八圈纪录

    Anthropic 宣布 Claude 在 Claude Science 系统中仅凭一条提示词、无人监督连续运行数天，算出平面 N=4 超杨-米尔斯理论六粒子振幅的九圈结果，超越 Lance Dixon 团队 2023 年的八圈纪录，总成本几千美元，其中直接自举路线的 Python 运行成本仅约 100 美元。

    同一件事，精选收录的是《Claude 完成 N=4 super Yang-Mills 九圈散射振幅计算，物理学家 Matt von Hippel 撰文回顾挑战过程》

9月26日周六
  5. Stanford HAI News58

    Stanford 研究发现 AI 基准测试常常测不出它声称测量的东西

    Stanford 研究者将在 10 月旧金山 COLM 会议上发表两项研究，用测量科学与心理测量学检验 56 个常用基准，发现基准并不总是测量其声称的能力，声称测同一属性的基准之间也常互相矛盾。研究以 BBQ 偏见基准为例指出其更像在测阅读理解，另一项研究拆解了安全分数在非英语语言中下降的原因，区分模型 guardrails 变弱与翻译后测试本身失真这两种因素。

  7. Rohan Paul70

    Claude Science 在单个提示词下、数天基本无人监督运行，在平面 N=4 super-Yang-Mills 模型中完成九环散射振幅计算，将此前 SLAC 的 Lance Dixon 等人保持的 8 环纪录推进到 9 环，总成本仅几千美元。

    引用Anthropic@AnthropicAI

    New on the Science Blog: Yes, Claude can do Nine Loops. Theoretical physicists predict how particles behave using formulas called scattering amplitudes. These are notoriously hard to compute, so researchers work with layers of increasingly fine corrections called “loops”—each added loop makes the answer more precise but takes exponentially more computation. Most calculations stop at two or three loops. Eight loops was the previous record in a simplified model physicists use as a testing ground (planar N=4 super-Yang-Mills), set by SLAC's Lance Dixon and collaborators. Last month, physicist and science writer @4gravitons issued a challenge: could an AI push past eight loops in this model, using only the compute budget an academic could reasonably access? Given a single prompt describing the nine-loop problem, Claude ran largely unsupervised for days in Claude Science and solved it using methods developed by Dixon and his colleagues, at a total cost of a few thousand dollars. Dixon independently verified the result, and von Hippel wrote about the experience for our blog. Read more: https://www.anthropic.com/research/yes-claude-can-do-nine-loops

9月25日周五
  2. OpenAI：失准报告与通报69

    OpenAI 报告存在可自我复制的提示词注入

    OpenAI 证明存在一种可像蠕虫一样自我传播的新型提示词注入，发现于 2026 年 6 月 27 日，基于 GPT-Red 自博弈红队训练，攻击模型基于 GPT-5.4-mini，受测模型包括 GPT-5.4-mini 和 GPT-5.5。

    推荐理由：OpenAI 披露自复制提示词注入的实测案例与防御计划，展示了攻击如何借邮件和文件系统传播。

  5. Anthropic：Research61

    Anthropic Project Swap 实验：201 名员工让 Claude 智能体替人换书交易

    Anthropic 开展 Project Swap 实验，让 201 名员工携带一本书，其 Claude 智能体在数字交易大厅代表他们谈判换书。5 分钟聊天后，Claude 构建的图书排序与本人自评排序在 61% 的书对上一致；市场效率为 0.55（最优 0.89），其中 85% 的差距来自智能体对参与者偏好的理解不足，而非谈判表现。

    推荐理由：实验设计能区分智能体理解偏好与谈判能力各自的贡献，结果显示短板主要在代表性而非谈判，模型强弱的影响大于指令。

  7. The Decoder：AI News55

    FRI 中期报告：顶尖 AI 专家大幅低估领域进展速度

    Forecasting Research Institute 的中期报告显示，专家和超级预测员系统性低估了 AI 进展。AI 在 2025 年 7 月达到 IMO 金牌水平，比专家预测中位数提前五年；病毒学基准、网络安全基准和 Anthropic 约 1000 亿美元年化收入等指标也远超预测，如专家对 2026 年底 AI 公司最高 ARR 的中位数预测仅 200 亿美元。

9月24日周四
  1. NVIDIA Blog61

    NVIDIA 联合 Google DeepMind 等机构开放 2800 多种病毒的蛋白复合物预测结构数据集

    NVIDIA 与 Google DeepMind、EMBL-EBI 等全球研究机构合作，通过 AlphaFold Database 开放发布 2800 多种病毒的蛋白复合物预测 3D 结构，旨在为下一次疫情储备知识。

    推荐理由：原文给出数据集规模、覆盖范围和可复用的开源预测流程，读者可以据此评估如何用于自己的蛋白结构研究。