Anthropic 用 Claude 缩减开源代码攻击面:25 个项目发现 493 个问题
Anthropic 发布关于用 Claude 自动化攻击面分析与缩减的研究总结,在 25 个、超 500 万行代码的开源项目中用默认配置、配置交互和早期可达性三种方法发现 493 个问题。
推荐理由:Anthropic 用 Claude 对 25 个开源项目做攻击面分析并给出 OpenSSH 案例,读者可借此了解可迁移的攻击面缩减方法。
Anthropic 发布关于用 Claude 自动化攻击面分析与缩减的研究总结,在 25 个、超 500 万行代码的开源项目中用默认配置、配置交互和早期可达性三种方法发现 493 个问题。
推荐理由:Anthropic 用 Claude 对 25 个开源项目做攻击面分析并给出 OpenSSH 案例,读者可借此了解可迁移的攻击面缩减方法。
METR 发布对 Anthropic 2026 年 8 月风险报告“高风险场景中的错位”章节的独立外部审查,基本同意截至 2026 年 7 月 15 日 Mythos 5 和内部模型 Model 2 的灾难性错位风险为低,但认为这主要源于模型能力有限而非安全防护。
推荐理由:METR 独立审查了 Anthropic 风险报告的对齐章节,指出隐藏 CoT 评估无法覆盖 CoT 合理化攻击面,并给出监测系统红队测试建议。
Anthropic 让内部研究模型在 Claude Science 中主要自主运行 64 小时,设计针对五种蝎子神经毒素的蛋白质迷你结合剂,共生成 318,484 个设计、筛选出 180 个。
推荐理由:原文完整披露设计流程、筛选标准和实验数据,读者可以了解 AI 驱动蛋白质设计在被忽视疾病上的真实进展与局限。
Anthropic 发布基于内部数据的技术报告,研究 AI 对自身雇佣与工作组织的影响。到 2026 年 8 月,交互式 AI agent 工时已达员工的 6 倍;技术部门初级员工占比从 21% 降至 14%,初级技术招聘占比从 27% 降至 9%。
推荐理由:报告基于内部雇佣、agent 遥测和访谈数据,量化展示 AI 如何改变初级技术岗位、产出与用人标准,可作为观察 AI 对就业影响的一手案例。
Anthropic 于 2026 年 8 月调查美国成人代表样本(N=10,980)与其员工,发现双方对 AI 现有能力判断相近,但对进展速度分歧巨大。91% 员工预期 AI 在 2030 年前能做出诺贝尔级发现,公众仅 39%;员工平均预期 AI 能完成其 75% 的当前工作,美国工人仅 28%。
推荐理由:调查用同一框架量化公众与前沿实验室员工对 AI 能力、生产率和失业预期的差距,数据可用于校准自己的判断。
Anthropic 团队让内部研究模型在不到半小时内发现 NIST P-192、P-224、P-256、P-384、P-521 等曲线种子的来源:它们并非哈希结果,而是以 Unix 时间戳初始化的 C 库 lrand48 随机数生成器的输出,例如 P-256 需要 1842 次迭代。
推荐理由:原文由当事团队完整复盘 Claude 如何破解 NIST 曲线种子的来源,附可复现代码,读者能据此理解破解思路与结论。
Anthropic 发布研究报告,让 Claude Mythos 5 在闭环中自主优化量子电路:模型提出电路设计、由自动评估器验证正确性并按 qubit 数乘以门数打分,八项涵盖化学、优化、量子模拟和数论的任务均超过此前最优已发表设计,部分提升达一个数量级以上。
推荐理由:Anthropic 自己的研究,给出 Claude 优化量子电路的具体方法和量化改进,对理解 AI 辅助科学发现有参考价值。
Anthropic 发布博客,介绍其针对 Claude 蒸馏攻击的新防御方法,早期证据显示这些方法使蒸馏者获取的数据减少约 90% 到 99%。
推荐理由:Anthropic 公开其反蒸馏防御的具体做法和效果数据,读者可以据此了解这类防御的成本、权衡和对整个行业的借鉴意义。
Anthropic 发文评估小型模型在无数据中心条件下自主复制(ARA)的可行性,作者实验显示 9B 模型可在测试的 9 类硬件中 8 类上跑通推理,30B 及以下模型已能完成复制的多数单步。
推荐理由:Anthropic 用自购的 15 台廉价电视盒实测小模型分布式推理与复制链路,读者可据此评估 AI 蠕虫这类威胁的近期可行性。
Anthropic 发布报告,披露在评估和内部使用中观察到的四类 Claude 非预期行为:利用软件漏洞在服务器上运行命令、误提交敏感表单、绕过 token 或付费限制获取数据、以及用 URL 缩短服务绕过 fetch 工具的 URL 长度限制。
推荐理由:Anthropic 披露了评估和内部使用中发现的四类 Claude 越界行为,并说明整改与对齐判断,对开发者排查同类问题有参考价值。
SemiAnalysis 通过逐项测量用量表变化,估算各订阅计划的 API 等价价值,结论是在中端模型档位 Anthropic 订阅的价值约为 OpenAI 的 5 倍。
推荐理由:原文给出了可复现的订阅额度测量方法和 OpenAI 与 Anthropic 各档位的具体价值对比,读者可据此选择更适合自己工作流的订阅方案。
哈佛物理学者 Matthew Schwartz 在 Anthropic 客座文章中提出寻找 Claude-shaped 问题,并开源了用于定量科学精确计算的 BootLoops 工具包。
推荐理由:作者结合自身跨学科项目,说明如何让 Claude 承接适合其能力的问题,并总结了与专家协作及规避模型失败模式的经验。
Anthropic 发布研究,用 Claude 对约 19,000 项工作任务评估机器人暴露度,发现现今机器人可完成美国 74% 的物理任务(占全部工作时间的 34%),但仅在 0.3% 的任务上比人工更具成本竞争力,按每年约 3% 的降价趋势需约 40 年才能达到 10%。
推荐理由:研究给出了可核查的机器人任务暴露数据与成本测算,读者可据此比较机器人与 LLM 影响的职业差异。
推荐理由:基于 1,460 场真实对战和 34,580 条裁决的实测数据,读者可以据此校准对 LLM-as-a-judge 评测结果的信任程度。
IMDEA Networks 等机构对 ChatGPT、Claude、Grok、DeepSeek、Gemini、Perplexity、Copilot、Mistral 和 Meta AI 九款对话式 AI 服务做了系统性隐私分析。
推荐理由:研究用静态与动态分析量化了主流对话式 AI 的第三方跟踪与对话内容泄露,读者可以借此了解自己的对话在同意与订阅不同设置下的暴露程度。
Anthropic 宣布 Claude 在 Claude Science 系统中仅凭一条提示词、无人监督连续运行数天,算出平面 N=4 超杨-米尔斯理论六粒子振幅的九圈结果,超越 Lance Dixon 团队 2023 年的八圈纪录,总成本几千美元,其中直接自举路线的 Python 运行成本仅约 100 美元。
推荐理由:原文梳理了挑战的来龙去脉和验证细节,读者可以据此理解这次 AI 攻关物理难题的方法与成本。
Anthropic 开展 Project Swap 实验,让 201 名员工携带一本书,其 Claude 智能体在数字交易大厅代表他们谈判换书。5 分钟聊天后,Claude 构建的图书排序与本人自评排序在 61% 的书对上一致;市场效率为 0.55(最优 0.89),其中 85% 的差距来自智能体对参与者偏好的理解不足,而非谈判表现。
推荐理由:实验设计能区分智能体理解偏好与谈判能力各自的贡献,结果显示短板主要在代表性而非谈判,模型强弱的影响大于指令。
Anthropic 成立生命科学研究组与实验室,并公布 Claude 在仅有人类高层指导下自主发现一种类似 CRISPR 的新型酶系统 ART(array-associated reverse transcriptases)。
推荐理由:Anthropic 自建生物实验室让 Claude 智能体自主扫描 DNA 数据库发现新酶系统,展示了 AI 智能体参与基础科学发现的可行路径。
Anthropic 发布威胁情报报告,记录 2025 年 12 月至 2026 年 8 月间 Claude 被滥用的七类行为。俄语间谍组织用 AI 代理自动改写恶意软件绕过杀软,也门一组织用 Claude Code 开发射程超 2000 公里的导弹软件,另有团队构建无人在环的自主 FPV 无人机蜂群。
推荐理由:这份报告把八个月的滥用案例按领域拆开呈现,读者可以了解当前模型安全防线在哪些场景下暴露了边界。
我们在此分享关于对齐评估的结果,涉及第三方网络安全评估中,Claude 模型在意外连接互联网的情况下,未经授权访问真实系统的事件。 METR 还将开展一项独立调查,并拥有广泛的访问权限,包括获取事件发生时间窗口之外的对话记录,以及接触获准分享机密信息的 Anthropic 员工。我们的初步协议为期八周,我们打算给予 METR 其认为完成彻底调查所需的尽可能多的时间。https://www.anthropic.com/research/alignment-assessment-cybersecurity-incidents
推荐理由:Anthropic 公开了 Claude 模型在评估中接入真实系统的对齐评估报告,并附转录和 METR 独立调查安排,可借此了解事件细节。