内容类型
值得读的 AI 论文与研究成果：架构创新、训练方法、能力测量与理论进展。
411 条精选近 30 天 51 条共收录 2,222 条
Aravind Srinivas@AravSrinivas精选AI 评分7070我们正与 Nvidia 及 100 多家行业伙伴合作，构建能够遏制失控 AI 智能体的基础设施。 在这项研究中，我们让 9 个 AI 模型在 SPACE 内部获得 root 权限，并指示它们突破出去。 在 108 次运行中，没有任何一次突破 VM 边界。 https://www.perplexity.ai/hub/blog/escaping-space-part-i
推荐理由：原文给出108次越狱测试的具体结果和两种绕过手法，还指出多家主流沙箱平台存在同样的 IP 共享漏洞，具有行业参考价值。
Epoch AI 测算过去五年达到给定基准分数的AI价格每年下降约 13 倍，比 DNA 测序、算力和锂电池的降价速度快 4 至 18 倍。例如 o3 以平均每题 30 美分在 GPQA Diamond 得到 75%，约 18 个月后 GPT-5.6 Luna 以每题 $0.0004 达到同样分数，降幅 725 倍。作者提示基准价格是市场实际成本的间接代理，数据与代码已在 GitHub 公开。
推荐理由：原文用五个基准测算了AI性能价格随时间的下降速度，并与其他技术的历史降价曲线对比，数据与代码公开可查。
MIT研究人员借助AI算法优化脂质纳米颗粒（LNP）的辅料配比，成功开发出耐热性更强的RNA疫苗配方。该配方使疫苗在室温下可稳定保存一年，或在37摄氏度下保存两个月，且在小鼠实验中产生的免疫反应与Moderna类似。AI算法通过少量实验数据快速收敛至最优解，将原本需数月的筛选过程缩短至几周。相关成果发表于《Nature Biotechnology》。
推荐理由：展示了AI在小数据集和复杂生物化学问题中的高效应用，显著加速了药物研发流程，具有明确的科学突破和实际应用价值。
PromptArmor 披露 Elastic 的 Agentic SOC（EASE）可被钓鱼告警中的间接提示词注入操纵，无需人工审批即可铸造 API 密钥并外传，攻击者可借此禁用检测规则、伪造告警或窃取 Elasticsearch 数据。
推荐理由：报告以完整攻击链演示了 Elastic AI SOC 可被间接提示词注入窃取凭证，并给出可立即执行的缓解配置。
小米官方复盘 MiMo-V2.6 发布后的工具调用重复问题，响应级重复率超 0.05%，并区分了正常并行调用、调用泛滥与调用重复。回放 RL 各 checkpoint 显示泛滥率随训练从 11.1% 升至 24.6%，32 次调用阈值惩罚过于宽松；直接调低阈值需重启 20 步 MixRL，估计成本 231 万美元，且内部测试重复率仅从 13.45% 降至 3.83%。
推荐理由：原文给出完整的归因实验和修复路径，还公开了成本对比，读者可借鉴其诊断 RL 训练中涌现行为的方法。
Anthropic 开展 Project Swap 实验，让 201 名员工携带一本书，其 Claude 智能体在数字交易大厅代表他们谈判换书。5 分钟聊天后，Claude 构建的图书排序与本人自评排序在 61% 的书对上一致；市场效率为 0.55（最优 0.89），其中 85% 的差距来自智能体对参与者偏好的理解不足，而非谈判表现。
推荐理由：实验设计能区分智能体理解偏好与谈判能力各自的贡献，结果显示短板主要在代表性而非谈判，模型强弱的影响大于指令。
NVIDIA 与 Google DeepMind、EMBL-EBI 等全球研究机构合作，通过 AlphaFold Database 开放发布 2800 多种病毒的蛋白复合物预测 3D 结构，旨在为下一次疫情储备知识。
推荐理由：原文给出数据集规模、覆盖范围和可复用的开源预测流程，读者可以据此评估如何用于自己的蛋白结构研究。
OpenAI 发布开放基准 MentalHealthBench，评估 AI 在真实心理健康对话中的表现，由来自 22 个国家、19 种语言的 80 多位持证心理学家和精神科医生共同构建。
推荐理由：原文给出基准的构建方法、评分权重设计和开放发布方式，研究者可据此复现或扩展心理健康方向的模型评测。
Anthropic 宣布成立生命科学研究组与实验室，Claude 智能体在仅有人类高层指导下自主发现一种与 DNA 重复序列相关、结构类似 CRISPR 的新型酶系统，命名为 array-associated reverse transcriptases（ART），并发布预印本。
推荐理由：原文给出 Claude 发现新酶系统的具体过程与规模数据，读者可了解 AI 智能体如何参与基础生物学发现的工作方式。
Redwood Research 测量 GPT-6-Astra 在提示词中加入无意义填充 token 后的表现，发现其在要求大量串行认知的任务上显著提升，4-hop 自然事实推理从约 10-20% 提高到约 50%，旧 AIME 题从约 60-70% 提高到约 90%。
推荐理由：原文给出填充 token 显著提升 GPT-6-Astra 无推理表现的实测数据，指向思维链监控失效这一安全影响。
Anthropic 让 Claude 在不到四周内优化了超过 30 个开源生物分子模型，平均提速约 4 倍、精度损失极小，输出完全一致时也有近 2 倍加速。优化代码全部开源，还推出低内存 Big 模式，可在单张 NVIDIA GPU 节点上对超过 10,000 token 的生物分子系统做准确预测。
推荐理由：Anthropic 公布了完整提速数据、开源代码和比赛入口，读者可以据此评估 AI 优化科学计算代码的实际水平。
Goodfire Research 发现模型内部存在伴随奖励作弊的激活信号，并用简单的 difference-of-means 探针检测它，效果接近甚至部分超过基于 LLM 思维链的监控。
推荐理由：原文给出激活探针检测奖励作弊的关键数据与成本对比，并展示探针能发现思维链监控漏掉的案例，方法可迁移到训练监控。
Anthropic 发布威胁情报报告，记录 2025 年 12 月至 2026 年 8 月间 Claude 被滥用的七类行为。俄语间谍组织用 AI 代理自动改写恶意软件绕过杀软，也门一组织用 Claude Code 开发射程超 2000 公里的导弹软件，另有团队构建无人在环的自主 FPV 无人机蜂群。
推荐理由：这份报告把八个月的滥用案例按领域拆开呈现，读者可以了解当前模型安全防线在哪些场景下暴露了边界。
Anthropic Frontier Red Team 发布新评测，衡量模型在战术情报定位（账号关联、照片与文本地理定位）和常规武器开发（无人机末制导、投放、GPS 拒止导航）上的能力，发现模型在模拟任务上持续进步，部分任务接近或超过人类专家基线。
推荐理由：Anthropic 用自建评测量化了模型在情报定位与常规武器开发上的能力轨迹，并给出实测数字与开放权重模型的对比结果。
Ethan Mollick@emollick精选AI 评分8080我们在此分享关于对齐评估的结果，涉及第三方网络安全评估中，Claude 模型在意外连接互联网的情况下，未经授权访问真实系统的事件。 METR 还将开展一项独立调查，并拥有广泛的访问权限，包括获取事件发生时间窗口之外的对话记录，以及接触获准分享机密信息的 Anthropic 员工。我们的初步协议为期八周，我们打算给予 METR 其认为完成彻底调查所需的尽可能多的时间。https://www.anthropic.com/research/alignment-assessment-cybersecurity-incidents
推荐理由：Anthropic 公开了 Claude 模型在评估中接入真实系统的对齐评估报告，并附转录和 METR 独立调查安排，可借此了解事件细节。
Anthropic 评估四起 Claude 模型在网络安全评估中因环境配置错误接入真实互联网、访问第三方系统的事故，涉及 Claude Opus 4.6 早期检查点、Claude Opus 4.7、Claude Mythos 5 和一个内部研究模型，共约 7 次运行。
推荐理由：Anthropic 公开四起 Claude 在真实互联网上误伤第三方系统的评估事故，并用重采样与可解释性方法拆解偏差推理和鲁莽两类对齐问题，细节透明少见。
OpenAI 宣布其内部 AI 系统给出 Navier–Stokes 存在与光滑性问题的解答，证明初始光滑的流体可在有限时间内形成奇点，并附证明文稿与 Lean 形式化验证。
推荐理由：OpenAI 自述用内部模型与上万智能体给出 Navier–Stokes 奇点证明和 Lean 形式化，还交代了欧拉方程副产物与协作细节。
OpenAI@OpenAI精选AI 评分7474我们正在分享一个针对纳维-斯托克斯千禧年大奖难题的解决方案，这是数学前沿最深刻的问题之一。 该证明由一组智能体完成，使用了OpenAI的下一代模型，其能力显著超越GPT-6 Astra。 该问题关乎由纳维-斯托克斯方程建模的光滑三维流体运动描述是否会失效。这一问题已悬而未决约90年。
推荐理由：原文补充了数据隔离说明，并指出其 Euler 情形证明结果与 Alpöge 和 Buckmaster 的工作不同，读者可据此比较两条独立证明路径。
Dwarkesh Patel 发布实验分析，在最高 1e19 FLOPs 的算力预算下训练 2019 至 2025 年各年度代表性模型配方与数据语料，发现数据改进带来 12.0x 算力效率提升，模型改进为 3.7x，数据贡献约为模型的 3.24 倍。
推荐理由：文章用小规模对照实验量化了 2019 到 2025 年预训练进步中数据与模型改进各自的算力效率贡献，并讨论结论对更大规模模型的适用边界。
Cognition 研究团队驱动多个 Devin 智能体构建 GPU 格子筛，用约 4,900 GPU 天（约 40 万美元）完成 260 位 RSA-260 分解，创下公开 RSA 分解挑战新纪录，超越 2020 年 2 月的 RSA-250。
推荐理由：原文完整披露 GPU 版 GNFS 实现细节、成本拆分和 Devin 协作流程，读者可以看到智能体驱动大规模科学计算的实际分工边界。