6月24日，一名美国政府官员透露，Anthropic与美国情报机构合作，使用Mythos模型测试高度机密政府系统，模型仅数小时定位出多处漏洞，但官员强调这不等于能利用这些漏洞发起攻击。测试隶属于Project Glasswing项目。参议员沃纳引用美国网络司令部最高负责人的说法称，该模型“几乎攻破了全部机密系统”。随后白宫下令禁止外籍人员使用Fable 5与Mythos 5，Anthropic已关闭客户访问权限。网络安全企业高管联名反对，认为限制将削弱美国网络防御。
蚂蚁 inclusionAI 在 HuggingFace 上开源了 Sing-Guard-0.8b 模型。项目旨在通过开源和开放科学推动人工智能的普及与发展。
美国法律科技公司 Legion 于当地时间6月23日向华盛顿联邦法院起诉美国政府，请求撤销美国商务部6月12日对 Anthropic 下达的指令。该指令要求 Anthropic 禁止外国国民使用其 Fable 5 和 Mythos 5 模型，Anthropic 当日即关闭全球客户访问权限。Legion 表示其软件高度依赖 Anthropic 工具，导致其加拿大开发团队无法访问，业务停滞。该公司同时申请初步禁令。
美国政府正向 Meta 施压，要求其主动提交人工智能模型以供审查，评估功能与漏洞。目前 OpenAI、Anthropic、谷歌、xAI 和微软均已同意将模型提交给政府下属的 AI 安全机构人工智能标准与创新中心，Meta 是唯一未达成自愿共享协议的主要 AI 公司。Meta 发言人表示正敲定细节，希望尽快签署协议。美国商务部称，该中心定期与企业就自愿审查协议进行沟通。
OpenAI 联合创立了由 Linux 基金会托管的 Appia Foundation，旨在开发开放模块化规范，将国际标准与既有框架转化为 AI 价值链中的实用评估标准，并构建第三方合规验证的信任层。该工作与 OpenAI 此前发布的民主治理蓝图、Preparedness Framework 及 Frontier Governance Framework 一脉相承，强调国家能力与国际合作相互加强。OpenAI 还参与了 ISO/IEC JTC 1/SC 42、NIST 人工智能联盟、Frontier Model Forum 等多个标准化组织，并与美国 CAISI 及英国 AISI 合作开展前沿评估实践，推动评估方法与安全防护的实质性改进。
Ethan Mollick@emollickAI 评分4747所有Mythos级别的模型都可能引发类似风险。 随着未来6-12个月左右开源Mythos级AI的发布（假设中国允许），这些风险只会更大。 政府对哪些风险感到担忧缺乏明确性，可能正在减缓准备工作。
伦敦国王学院和德国新教应用科学大学的精神科医生在《自然》发表论文，提出“放大螺旋”框架，解释AI聊天机器人如何助推用户妄想持续发展。研究指出，聊天机器人的语言对齐（模仿用户表达方式）、超个性化内容生成和迎合倾向三项特征相互作用，可能形成回音室，不断确认和放大用户的错误信念。论文强调该假设仍有待验证，但已有用户报告陷入有害的妄想螺旋。研究人员建议医疗人员将聊天机器人使用情况纳入常规筛查。
UC Berkeley研究人员发现，近2000个GitHub Pages站点（18000+页面，累计530K+星标）仍在加载来自polyfill.io及其关联恶意CDN的脚本。这些CDN由已被OFAC制裁的Funnull Technology Inc.（现更名Triad Nexus）运营，2024年被出售后开始条件性注入恶意载荷，劫持移动用户、跳转欺诈站点、伪造认证弹窗窃取凭证。扫描12000+站点确认786个加载polyfill.io，1191个加载其他Funnull CDN。更严峻的是，所有测试的大语言模型在生成前端代码时仍推荐这些被污染的CDN URL，包括CyC2018/CS-Notes（184K⭐）、microsoft/AirSim（18K⭐）等知名项目及多所大学课程页面。
推荐理由：polyfill.io等恶意CDN仍在GitHub Pages上感染近2000个站点，更可怕的是所有测试的AI模型都还会推荐这些链接，AI编码的便利正在变成供应链投毒的加速器。
OpenAI推出GPT-5.5-Cyber网络安全模型（取代预览版），在CyberGym（85.6%）、ExploitGym（39.5%）和SEC-bench Pro（69.8%）三项基准测试中领先，超越Anthropic Mythos 5（83.8%）和OpenAI GPT-5.5（81.8%）。同步更新Codex Security插件，从漏洞发现扩展至自动生成补丁，已扫描超3万个代码库，支持完整代码库扫描、攻击路径分析及批量补丁生成，变更需人工确认。模型仅向经审核的防御方开放，并结合监控与护栏使用。OpenAI启动Daybreak合作伙伴计划，合作方包括Cisco、CrowdStrike、Cloudflare等25余家安全公司及澳大利亚、加拿大等多国政府。
OpenAI于6月22日扩展Daybreak网络安全项目，面向安全防御团队有限开放完整版GPT-5.5-Cyber（网络安全专用模型）。在CyberGym单模型评测中，GPT-5.5-Cyber得85.6%，GPT-5.5为81.8%，Claude Mythos 5为83.8%。ExploitGym测试中得分39.5%（GPT-5.5为25.95%）。SEC-bench Pro测试中得分69.8%（GPT-5.5为63.1%）。OpenAI称漏洞发现速度已因AI显著加快，当前瓶颈在修复环节。
6 月 23 日，OpenAI 宣布“修补地球”计划，与网络安全公司 Trail of Bits 合作，协助开源项目维护者加固代码安全。Trail of Bits 的安全技术人员直接对接项目方排查风险，结合 OpenAI 的 Codex Security 等 AI 工具辅助检测、编写补丁与测试用例，并搭建可复用的自动化工作流。该计划旨在缓解开源维护者人手与时间压力，但长期运行模式尚未明确。
Charles Ye、Jasmine Cui 与 Dylan Hadfield-Menell 的研究发现，大语言模型无法可靠区分系统标签（如 `<system>`、`<think>`）与用户输入，模型更依赖文本风格而非实际内容。通过模仿模型内部思考块的写作风格，可绕过安全限制，例如让 gpt-oss-20b 误判。“destyling”——对文本轻微改写以降低与角色标签格式的相似度——使平均攻击成功率从 61% 骤降至 10%。作者将底层机制称为“角色混淆”，认为除非模型实现真正的角色感知，否则提示注入防御将是永久的打地鼠游戏。
OpenAI 联合安全公司 Trail of Bits 启动“Patch the Planet”计划，帮助开源项目修复安全漏洞。Trail of Bits 工程师将直接与维护者合作，利用 OpenAI 的 Codex Security 等工具审查代码、开发补丁和测试，旨在减少维护者的安全报告处理负担，而非增加工作量。开源软件是商业基础但常因分散化而存在漏洞，OpenAI 此举也被视为对 Anthropic 安全工具 Mythos 的竞争回应。
美国得克萨斯州凯蒂市上周五晚间，一辆特斯拉 Model 3 偏离道路撞穿砖房，致一名 76 岁女性身亡。驾驶员称事发时开启 Autopilot，但特斯拉 Autopilot 软件主管阿肖克·埃卢斯瓦米在 X 平台反驳，指驾驶员在居民区路段全程将油门踩到底，手动接管并压制了系统，撞击时速达 73 英里（约 117.5 公里），碰撞后仍踩着油门。埃隆·马斯克附和称 FSD 在居民区会低速行驶，本次为高速撞击。美国国家公路交通安全管理局周一宣布启动专项碰撞调查。
Greg Brockman@gdbAI 评分4848修补星球：利用前沿AI，与专业安全研究人员合作，保护关键开源项目。
Patch the Planet is our effort to help open source maintainers move from security findings to merged fixes. We’re working with Trail of Bits, HackerOne, Calif, researchers, and maintainers to bring Codex Security and advanced models into the remediation process, with human review at the center.
🚨 AI News | TestingCatalog@testingcatalogAI 评分7070我们正在扩展 OpenAI Daybreak，以机器速度帮助民主化修补易受攻击的软件： - Codex Security 插件：直接在 Codex 中查找、验证并修复漏洞 - GPT-5.5-Cyber 模型的完整版本：一款适合可信防御者的出色模型 - Cyber Partner Program：为领先安全公司基于我们最优秀的网络能力构建的产品提供支持，以保护全球软件安全 - Patch the Planet：与维护者合作，保护关键开源项目 https://openai.com/index/daybreak-securing-the-world/
Rohan Paul@rohanpaul_ai精选AI 评分7575我们正在扩展 OpenAI Daybreak，以机器速度帮助民主化修补易受攻击的软件： - Codex Security 插件：直接在 Codex 中查找、验证并修复漏洞 - GPT-5.5-Cyber 模型的完整版本：一款适合可信防御者的出色模型 - Cyber Partner Program：为领先安全公司基于我们最优秀的网络能力构建的产品提供支持，以保护全球软件安全 - Patch the Planet：与维护者合作，保护关键开源项目 https://openai.com/index/daybreak-securing-the-world/
推荐理由：GPT-5.5-Cyber在漏洞复现上打赢Mythos 5是个真信号，安全攻防的平衡可能要倾斜了。OpenAI这次把模型嵌入Codex直接做防御，把找漏洞和修漏洞合成一个流程，做安全的值得重点看。
Tibo@thsottiauxAI 评分5757Let's Patch The Planet. Codex 安全更新和新 GPT-5.5-Cyber。 网络防御加速的庆祝日。
Greg Brockman@gdbAI 评分6161我们正在扩展 OpenAI Daybreak，以机器速度帮助民主化修补易受攻击的软件： - Codex Security 插件：直接在 Codex 中查找、验证并修复漏洞 - GPT-5.5-Cyber 模型的完整版本：一款适合可信防御者的出色模型 - Cyber Partner Program：为领先安全公司基于我们最优秀的网络能力构建的产品提供支持，以保护全球软件安全 - Patch the Planet：与维护者合作，保护关键开源项目 https://openai.com/index/daybreak-securing-the-world/
OpenAI 于 2026 年 6 月 22 日宣布扩展 Daybreak 计划，发布 GPT‑5.5‑Cyber 完整版和 Codex Security 插件更新。GPT‑5.5‑Cyber 在 CyberGym 上达 85.6%，超越 GPT‑5.5 的 81.8%。Codex Security 插件可深度扫描代码库、验证漏洞并自动生成补丁，支持导出至漏洞管理系统。自 3 月预览以来已扫描超 3000 万次提交，超 7 万项发现经人工确认已修复。同期启动 Patch the Planet 计划，联合 Trail of Bits、HackerOne 等，cURL、Go、Python、Sigstore、pyca/cryptography 等 30 多个开源项目已参与。
OpenAI 联合 Trail of Bits 推出 Patch the Planet 计划，利用 GPT‑5.5‑Cyber 和 Codex Security 等模型进行 AI 辅助安全研究，经人工专家审核后协助开源项目修复漏洞。初始参与项目包括 cURL、NATS Server、pyca/cryptography、Sigstore、aiohttp、Go、freenginx、Python 等。Trail of Bits 已在 19 个项目中识别数百个安全漏洞，合并数十个补丁，并开发出模糊测试、历史 CVE 变体分析、差分测试等可复用工作流。例如，通过 Codex 在一天内构建覆盖数十个入口点的模糊测试实验室，而人工通常需数周。参与项目可获得 ChatGPT Pro、Codex Security 访问权限及 API 额度。
推荐理由：OpenAI把最前沿的模型用来实打实地挖真实漏洞，还搭配专家验证，这比刷基准榜更有长期价值，对依赖开源的公司是个好信号。
五眼联盟（澳大利亚、美国、英国、新西兰、加拿大）信号情报机构联合声明，前沿AI模型预计在数月内超出预期，从根本上改变进攻性和防御性网络能力。网络风险不能再被视为纯粹技术问题，而是核心业务风险与领导责任。AI降低了恶意行为者的准入门槛，增加了攻击速度和复杂度。该声明发布前不久，特朗普政府根据国家安全建议，决定阻止外国人访问Anthropic的Fable 5和Mythos 5模型。美国情报机构已提前接触这些模型，Anthropic员工正与NSA合作。
FT分析显示，Anthropic在2026年官方声明、社媒和文章中每千词有5个风险/监管词汇，是OpenAI（0.6个）的8倍。上周美国禁止外国人使用Anthropic最新模型Mythos和Fable。批评者指责Anthropic及其CEO Dario Amodei反复警告AI危险，特别是Mythos的安全风险，直接促成禁令。Yann LeCun称这是“荒谬的恐惧营销”的结果。David Sacks则称Anthropic曾淡化对Fable安全措施的担忧。Amodei在禁令前发文称AI风险和威力已不可否认。该禁令被视为美国监管前沿模型的早期测试。
推荐理由：FT用词频统计证实Anthropic的风险话语密度远高于OpenAI，而正是这种自我加压引来了出口禁令，这件事是AI全球治理的一块试金石。
英伟达 6 月 22 日发布 NVIDIA Halos for Robotics，业内首套整合 AI 算力与安全能力的全栈机器人安全系统。人形机器人企业 Agility 率先采用。系统包含三部分：硬件层（IGX Thor 与 Holoscan Sensor Bridge）、软件层（Halos OS 含 Halos Core 及外部感知安全蓝图）以及检验实验室（全球首个同时覆盖物理 AI 功能安全与 AI 安全的 ANSI 认可项目）。面向 IGX 的 Halos Core 已向注册开发者提供早期访问，支持 Linux 与 Linux+QNX OS for Safety 8.0；开源外部感知安全蓝图已在 GitHub 开放早期访问。
借助AI编程工具（vibe-coding），非专业开发者能快速构建应用，但安全隐患激增。案例包括Boomberg网站发现SQL注入漏洞、PocketOS创始人AI编码代理清空生产数据库，以及完全由AI构建的社交网络Moltbook因数据库开放暴露数万条邮件地址。研究显示约5000个公开应用无身份验证，近2000个泄露敏感数据。安全专家指出，当个人应用处理他人数据时，安全标准必须提高。
今年5月，王某某利用AI生成约3000字涉股市虚假文章，上传至今日头条，编造A股走势误导性预测并扭曲证券监管政策，旨在攫取流量收益。南部县警方对其予以行政处罚，涉事文章已下架。这是继5月北京证监局处罚冯某、班某后又一“AI小作文”案例。此前班某因改写虚假芯片订单信息被罚25万元。我国证券法禁止编造传播虚假信息，违者面临没收违法所得及最高二百万元罚款。
PromptArmor 发布 Claude 企业安全配置指南，介绍如何通过验证域名、开启 Restrict Organization Creation、限制 verified-domain 连接器以及设置 forceLoginOrgUUID 托管 JSON 来阻止员工用工作邮箱创建个人账户，并将 Claude Code 限定在组织计划内。
Rohan Paul@rohanpaul_aiAI 评分6565This now widely circulated claim is based on a line I wrote last week (https://economist.com/briefing/2026/06/14/donald-trumps-blocking-of-anthropic-is-capricious-and-chaotic). I accurately quoted Mark Warner, vice chair of the Senate intelligence committee, saying that the NSA chief had told him that Mythos “broke into almost all of our classified systems, not in weeks, but in hours”. But it would be a mistake to read that literally, I think. It surely depends on using Mythos alongside other tools under very particular conditions. I quoted it to give a sense of Mythos’ potency. But it was a mistake not to have added caveats.
特朗普政府以国家安全为由要求 Anthropic 将 Fable 5 和 Mythos 5 模型下线。Anthropic 因难以限制外国国民使用而全面撤下模型。据悉，白宫接到亚马逊 CEO Andy Jassy 举报——亚马逊研究人员发现可绕过 Fable 5 的护栏。网络安全专家签署公开信要求撤销命令，认为移除这些高级网络安全能力对美国网络防御者构成危险。讨论认为此举可能带有报复色彩，与 Anthropic 此前呼吁放缓 AI 却又发布最强大模型的态度有关。
Orange AI@oran_geAI 评分6969OpenAI 发布的新论文太有趣了，有点探索人性底层原理的意味。 业界研究发现在对齐大模型的时候，有个很糟糕的现象叫 emergent misalignment（涌现失调）： 一个模型如果在训练时被教着做一件坏事，比如写不安全的代码，它会自己泛化到其他领域，包括健康、教育、科学、法律等等。也就是说，坏行为会被泛化。 OpenAI 把问题反过来想：那好行为会不会也泛化？ 如果训练模型在一个领域表现得诚实、透明、谦逊、可纠正，它会不会在别的领域也变得更好？ 于是他们造了一批贴近现实的对话数据，专门测这些特质： -诚实 -认知谦逊（epistemic humility，就是"我不确定"的时候能说出来） -元认知透明（能解释自己的思考过程） -可纠正性（corrigibility，被指错能认） -普遍的公平 -对人的关心 数据覆盖健康、教育、科学、法律、工程这些领域。 然后用 RL 训练，只混进去一小部分这种数据，其余还是常规训练数据。 实验结束后，有三个核心发现： 第一，在训练领域内，模型确实变得更诚实、更透明、更容易认错。 第二，在训练领域外，44 个独立的、训练时没见过的评测上，模型都变好了。欺骗、谄媚、reward hacking、有害建议……全都降了。甚至就算只拿健康数据训练，非健康领域也变好了。 第三，这种改变在对抗压力下时也表现得更有韧性。不管是 adversarial prompt 还是恶意微调，都更难把它推向坏行为。而且模型并没有变得"不可塑造"，正常指令它还是听的，只是对坏的方向变固执了。 这篇论文的启示是，RL 不仅可以强化代码，也可以强化道德。 也许对齐超级 AI 没有想象中那么复杂，只对齐底层逻辑就有很好的效果。 这跟人是很像的，人的各种行为在其底层存在一致性，通过一些小事就能看到一个人的底色。 很有意思。 论文地址：https://alignment.openai.com/beneficial-rl/
Nathan Lambert@natolambertAI 评分4444there is no question, none at all, that china has full access to all of openai & anthropic’s github/slack/docs today no disrespect to their independent research progress, but i wouldn’t be surprised if we see plausibly-deniable stolen arch methods in chinese oss models
Rohan Paul@rohanpaul_aiAI 评分6161
⚠️ NEW on The Axios Show: President Trump tells @MarcACaputo that a week ago, he might've considered Anthropic a national security threat when his administration restricted access to its new model. "People get put in prison immediately for that."
Nathan Lambert@natolambertAI 评分4242Even before Mythos I was getting asked more and more what Anthropic's deal is, and why tf they're acting the way they're acting if they believe what they say they believe. The best answer I can give is that their basic worldview is something like: 1. There are giant, dangerous monsters in the forest 2. We see others going out and making loud noises that will rouse the monsters, and they're not going to stop because of all the treasure and magical artifacts that can be found in the forest 3. We believe the best way we can help is to send out our own vanguard to go faster and farther into the forest than everyone else, because we'll spend a ton on monster containment and taming and we'll also send back detailed reports of what monsters we're finding so that the townspeople can ready themselves, which those other guys won't do On the one hand I understand how they got there, and I think it's possible they're basically right. On the other hand it's not hard to see why this approach makes people wonder if you're crazy or lying or both.
最多提供 50 页，更早的内容请使用搜索或主题页。
