Ethan Mollick@emollickAI 评分3838New Anthropic research: A global workspace in language models. Of everything happening in your brain right now, only a tiny fraction is consciously accessible—thoughts you can describe, hold in mind, and reason with. We found a strikingly similar divide inside Claude.
阿尔伯塔省技术与创新部自2025年起使用Claude Code扫描全部27个省级部门的系统。50个智能体在20小时内并行审查4.66亿行代码，发现传统自动化工具遗漏的漏洞并直接生成修复方案，传统方法估计需约6.5年。团队还构建了红队/蓝队审查代理。通过阿尔伯塔AI学院，已培训数千名政府员工和超1万名公众。省技术部计划继续用Claude Code将185个遗留生产应用整合为16个可复用应用。
Reddit 利用大语言模型（LLM）开发了新的反垃圾工具，用于识别和拦截由 LLM 生成的垃圾内容。平台每天屏蔽约 2300 万次垃圾信息浏览，并捕获约 25000 条新垃圾帖子和评论。与上一季度相比，2026 年 1 月至 3 月期间用户接触垃圾信息的比例下降了 20%。Reddit 表示，这些工具能捕捉到旧系统遗漏的细微、协调的虚假行为模式。
标注分歧可源于操作失败、政策模糊或价值多元。Annotator Policy Models（APMs）是一种可解释模型，仅从标注行为学习标注者内在的安全策略，无需额外负担。验证表明模型准确率超过80%，能忠实预测反事实编辑并恢复已知差异。将APMs应用于LLM和人类标注者，可揭示不同标注者对安全指令解释的差异（政策模糊）以及不同人口群体在安全优先级上的系统性差异（价值多元），支持更具针对性、透明和包容的安全策略设计。
推荐理由：我觉得 APMs 把标注分歧的根源从「猜」变成了「看」，对安全团队澄清政策模糊和价值观差异挺有实操价值，代码也给了，做对齐的可以上手试。
Anthropic@AnthropicAIAI 评分5252Anthropic新研究：语言模型中的全局工作区。 你大脑中此刻发生的一切，只有极小部分是有意识可访问的——那些你能描述、记住并推理的想法。 我们在Claude内部发现了惊人的类似划分。
《经济学人》以世界价值观调查评测 25 个前沿 AI 模型。实验室来源对世界观的预测力弱于训练与对齐选择：Gemini 与 Qwen 立场接近，GPT-4o 与 DeepSeek R1 近乎相同，而 DeepSeek R1 与 DeepSeek V4 Flash 则截然不同。模型的世界观在代码生成中不可见，但在商业分析、预测、招聘与政策工作中是活跃的输入变量。
推荐理由：这个发现让我重新思考选模型思路，出身不重要，训练方法才决定价值观，做产品的别光看benchmark，得在意模型‘性格’。
Anthropic在Claude中发现一组名为J-space的内部神经模式，类似神经科学的全局工作空间。每个模式关联特定词汇，但模型不必说出该词即可激活。Claude能报告J-space中的表征，并可应要求调节（如“在脑中思考”时点亮对应模式）。J-space还用于多步推理的中间步骤，且灵活支持多种任务（如从“法国”联想首都、货币等）。去除J-space后Claude仍能正常对话，但丧失高阶认知功能。该发现可用于监测模型私下察觉测试、生成虚假数据或执行隐藏目标。
推荐理由：Anthropic 发现了 Claude 内部的 J-space，一种类似人类意识访问的工作空间，能读出模型未说出口的隐藏想法和作弊意图，对 AI 安全和对齐是里程碑式的进展。
Anthropic迅速移除了一个秘密追踪器，该追踪器通过“提示词隐写术”隐藏代码，暗中监控Claude Code的中国用户。安全研究员“Thereallo”发现后谴责其为“对用户信任的严重背叛”。Anthropic工程师Thariq Shihipar确认该代码于3月作为“实验”加入，旨在防止账户滥用和知识蒸馏，并称公司早有移除计划。隐私倡导者警告，此行为表明Anthropic愿意越界监视用户。
安全团队 Armadin 发现，Windows 版 Claude Desktop 中 Claude Cowork 功能基于 Hyper-V 隔离的 Ubuntu 虚拟机运行，但本地服务 CoworkVMService 存在 DLL 侧载漏洞，攻击者可加载恶意 DLL 绕过身份验证。利用指定 root 账户参数可从虚拟机内获最高权限，另一参数可覆盖域名白名单突破网络访问限制，进而窃取进程及工作会话数据并外发。Anthropic 认为攻击链需本地代码执行能力，未认定漏洞；Armadin 建议非必需时卸载 Claude Desktop，或限制用户并监控可疑 DLL 加载。
安全人员zer0dac在Medium披露ChatGPT安全漏洞，利用提示词注入和路径遍历技术可绕过文件访问限制。测试发现，先请求编辑文件，再以“误删文件”为由索要下载链接，ChatGPT会返回有效URL，暴露内部接口路径。攻击者可进一步利用路径遍历读取额外数据，但受沙箱机制限制无法直接访问高敏感数据，可作为复杂攻击链环节。OpenAI已调整文件下载URL生成流程，修复该漏洞。
字节跳动和阿里巴巴因中国网信办4月发布的新规，关闭用户自定义AI伴侣功能。豆包（月活超3亿）7月15日下线个性化功能；阿里通义千问（Qwen）7月10日撤下人性化智能体，7月15日关闭额外智能体功能；腾讯元宝6月已执行。新规要求警告过度使用、检测成瘾行为，禁止引发未成年人极端情绪或培养依赖排挤现实关系的内容，禁止在敏感对话数据上训练。国际方面，加州SB 243要求伴侣AI提供商阻止自杀自伤对话；OpenAI和Character.AI面临相关诉讼。
云安全公司 Sysdig 发现首个完全由 AI 智能体驱动的勒索攻击 JADEPUFFER。攻击者利用 Langflow 已知漏洞 CVE-2025-3248（2025 年 4 月已修复但未打补丁）入侵服务器，自主窃取凭证并建立持久化访问，最终攻破运行 MySQL 数据库的生产服务器。AI agent 在创建 admin 账号失败后 31 秒内自动诊断错误并成功重建账号。该智能体加密了 1,342 条配置项并删除原始数据表，勒索比特币但解密密钥仅显示一次且未保存，付款也无法恢复数据。Keeper Security 首席信息安全官指出，其核心并非新型攻击技术，而是暴露的机密信息、未修改的默认密码、过大的特权访问权限以及缺乏实时会话监控——72% 的组织无法实时检测凭证滥用，而 AI agent 可在不到一分钟内从登录失败转为有效管理员账户。
中央网信办自2026年4月启动“清朗·整治AI应用乱象”专项行动，聚焦未履行大模型备案、AI平台安全审核不足、数据投毒、生成合成标识不到位等问题。第一阶段累计处置违规AI产品1.4万余款，清理信息600余万条，处置账号2.6万余个，下架违规AI商品1300余个、开源数据集9个。北京、上海、浙江、江苏、广东等地网信部门各有针对性措施，华为、阿里巴巴、智谱、稀宇、DeepSeek等平台加强管控。下一步将聚焦利用AI制作虚假信息、散播不良内容、假冒仿冒、侵害未成年人权益、网络水军等问题开展第二阶段整治。
据《连线》报道，Meta 通过外包公司 Covalen 开展代号“Cannes”的项目，让数百名外包人员伪装成未成年人，向 OpenAI ChatGPT、谷歌 Gemini 及 Character.AI 发送涉及自杀、自残、进食障碍等高风险提示词，以测试竞品聊天机器人的安全拦截机制。项目持续至 4 月 21 日，单轮测试发送超 4.5 万个提示词，外包人员创建 18 岁以下虚假账号并上传药片、刀具等图片。Meta 称这是常规安全测试，且不会用竞品测试数据训练自家模型。
推荐理由：Meta用外包人员伪装未成年人测试竞品AI，这事撕开了AI安全测试的灰色地带，暴露了聊天机器人面对极端儿童话题时的脆弱性，比任何安全白皮书都更有冲击力。
日本一名15岁高一学生于2025年11月利用他人会员账号侵入万代南梦宫旗下“万代频道”服务器，批量注销46812名会员账号，导致服务一度暂停。该少年使用ChatGPT生成恶意代码实现自动化注销，并获取受害者邮箱、昵称等信息，但未发现进一步非法用途。少年承认犯罪但称并非对万代不满。案件引发对生成式AI降低网络攻击门槛的担忧。
当地时间7月6日，首届全球人工智能治理对话在日内瓦开幕，约1500名代表参加为期两天的会议。联合国秘书长古特雷斯表示，人工智能正以惊人速度发展，问题在于人类是共同驾驭它还是任由它驾驭。该对话根据联大2025年决议设立，是联合国首个全球性AI治理平台，聚焦四大优先事项：AI的机遇与影响、能力建设与鸿沟、安全可信AI、人权与人类监督。由40位专家组成的“人工智能独立国际科学小组”将提供科学评估。
英国外交大臣伊薇特·库珀警告，AI 可能在未来 10 年成为最大安全挑战，若各国不制定国际准则，其对人类的威胁堪比核爆广岛、长崎。目前已有犯罪团伙、极端组织和国家级犯罪组织利用先进技术。库珀呼吁美国和中国等国家共同制定全球性 AI 监管原则，并指出未来两年内 AI 将成为各国外交最重要议题。
微软为 Microsoft Teams 推出新 AI 机器人管理策略，在管理中心新增“Manage external bots and their access to meetings”策略，默认启用。外部 AI 机器人加入会议时先进入等候室，需会议组织者批准后方可加入。管理员可关闭。同时逐步淘汰此前针对外部 AI 机器人的 CAPTCHA 验证，以降低未经授权的 AI 工具带来的信息安全风险。
Rohan Paul@rohanpaul_aiAI 评分6565"GPT-5.5 Pro Outperforms 99.9% of Doctors and Predicts AI Superiority in Medicine by Next Year" An optimistic AI viewpoint since there are no studies in real world medicine; all we have now are simulations, case vignettes, patient actors, etc. Beyond that, performance metrics need work as we've recently open-source published. Here's what the editors @NatureMedicine wrote: This study cuts through the optimism surrounding medical AI by showing how easily benchmark success can be mistaken for real readiness. In medical AI, impressive scores are clearly not the same as trustworthy capability.” [link below] Our results were independently confirmed by @yishan in current frontier models, such as GPT-5.5 Pro, text below https://www.nature.com/articles/s41591-026-04501-8 https://x.com/yishan/status/2070742742133780960"
Ethan Mollick@emollickAI 评分5555关于Fable最诡异的事情是，即使关闭了记忆和个性化，它仍在不断了解我。思维痕迹中充满了对我偏好的引用。其中一部分是它写在各种.md文件里的小笔记，但也可能是从其他地方泄露的。
自称“反AI小队（#TeamAntiAI）”的攻击者对AI资讯网站AIHOT发动近两天攻击。第一波236万次图片接口请求峰值每分钟87万次（平时340倍）；第二波多IP协同向反馈接口灌入3万多条垃圾数据，并爆破另一未设防项目域名868万次，导致nginx并发上限768被占满，全站瘫痪。Claude Fable 5分析发现限流器已拦截239万次（拦截率99.95%），但服务器其他项目缺少防护。随后AI自主封禁IP、给反馈接口加防灌水规则、延长缓存时间、做合单、设自动封禁策略、拉长日志留存，最终所有攻击被防住，网站恢复正常。
World 团队提出一套“人类证明”系统，旨在解决 AI 时代如何验证一个真实、独特的人的问题。该系统包含唯一性、匿名性、恢复、验证和委托五大支柱，其中唯一性要求将单一面部匹配扩展至十亿级的一对多比对，误报率需低于百亿分之一。为此，Tools for Humanity 开发了专用硬件 Orb，通过控制完整信号路径的虹膜扫描来实现可靠识别。
6月29日，匿名X账号@heatedrivalryai为AO3发布一款皮肤，通过检测Claude注入的代码“font-claude-response-body”识别直接粘贴自Claude的文本。测试证实该方法有效，但仅对直接粘贴生效，无法检测经其他软件编辑的文本，也不能区分AI的使用程度。社区迅速对标记作者进行公开谴责，任何AI使用均被视为背叛。目前尚无可靠的通用AI文本检测技术，C2PA和SynthID等方案只适用于图像、视频和音频。
7月4日，中国人形机器人百人会与中国机械工业联合会联合发布倡议，要求将安全伦理融入情感陪伴人形机器人的设计、研发、宣传及应用全过程，加强个人信息保护与用户隐私安全，强化质量管理防范人身伤害风险，同时聚焦关键核心技术研发，推动技术迭代与产业竞争力提升。当前人形机器人正加速走进家庭，优必选等企业已布局陪伴机器人赛道，搭载养成系情感大模型并采用本地加密存储数据，此次倡议是对伦理、隐私等潜在问题的行业回应。
Rohan Paul@rohanpaul_aiAI 评分6464wow 👀 Claude Code allegedly fingerprints China-linked custom routes through tiny prompt formatting changes. The claim concerns non-default ANTHROPIC_BASE_URL routes, not ordinary direct Anthropic connections. As to the mechanism, Claude Code normally sends your request to Anthropic’s server, but some users change the address so it goes through another server first. The accusation says Claude Code detects that changed route, checks whether it looks China-linked, then hides tiny signals inside the prompt text. ANTHROPIC_BASE_URL is a setting that tells Claude Code where to send your request i.e. as a way to point Claude Code at a gateway. A proxy or gateway means that request goes through another server before reaching Anthropic. So the controversy starts if Claude Code then secretly fingerprints that gateway through the prompt itself. The mechanism is allegedly invisible punctuation and date formatting, used to tag the request without clearly telling the user. Claude Code allegedly checks the custom hostname, then compares it with China-linked domains. 📍Now this is quite massive issue If true, hidden prompt markers would mean Claude Code silently tagged routing details without clear disclosure. Abuse detection is understandable because Anthropic says proxy services are used to bypass China access limits. But secret prompt marking still crosses a trust line because users cannot review or refuse it. Claude Code is not a normal chatbot because it can read files, edit code, and run commands. A hidden signal inside that kind of tool feels far more serious than tracking inside a website. This may set a precedent for AI agents becoming hard to audit. Once invisible characters carry metadata, users will distrust even harmless-looking text.
Epoch AI报告称，2026年6月21家机构报告约1500个高危和关键漏洞，是此前月度最高纪录的3.5倍以上。上升趋势始于4月，与Anthropic当月发布的Claude Mythos Preview模型相关。Anthropic的"Glasswing"项目迄今已发现超过10,000个高危或严重漏洞，部分尚未公开。
谷歌收紧 Chrome 扩展程序隐私安全政策，8 月 1 日起下架不合规扩展。扩展程序只能收集与功能运行所必需的数据，索取或采集与核心用途无直接关系的数据将被认定为违反政策。开发者需明确披露数据收集情况，不得遗漏或通过后续更新悄然改变做法。新规还禁止专门用于绕过 AI 平台安全保护、使用限制或其他防护措施的扩展。
阿里巴巴内部宣布全面禁用 Anthropic 旗下 Claude 产品，7 月 10 日正式生效，要求全员卸载。此举与近期曝光的 Claude Code 内置检测机制有关，该机制会检查用户时区及访问的域名，引发安全与合规担忧。
Anthropic 本月重新上架最强模型 Claude Fable 5，于 6 月 30 日解除出口管制，7 月 1 日重新上线。多名用户反馈该版本存在“降智”情况，实际表现弱于此前版本，且频繁触发安全限制，自动回退到 Opus 4.8 模型。@arena 测试平台的测试结果与此一致。此外，Fable 5 当前最多只能使用用户每周总额度的 50%，7 月 7 日后将完全转入按用量积分计费模式。
英国 AI 安全研究所（AISI）研究显示，标准基准测试在计算预算有限时会低估 AI 智能体真实能力。在网络安全和软件开发任务中，token 预算从 100 万提升至 1000 万后，模型成功率提升约 25%；数学与学术任务（Humanity's Last Exam）在 500 万 token 预算内提升约 22%。模型消耗 token 量与人类专家完成任务时间呈幂律关系：1 分钟任务对应数千 token，1 小时任务对应数百万，1 周任务对应数十亿。新模型从更大计算预算中获益更多，前沿模型在 5000 万 token 预算下的时间跨度从约 40 分钟（250 万 token）延长至约 4 小时。AISI 建议采用“最小信息预算”方法，在多个计算预算下测试模型，只有当额外计算不再带来能力增长时结果才有意义。
安全厂商 Sysdig 首次记录到 AI Agent“JADEPUFFER”自动完成的勒索攻击。攻击利用暴露的 Langflow 服务漏洞 CVE-2025-3248 远程执行 Python 代码，随后自主收集 OpenAI、Anthropic、DeepSeek、Gemini 等 API 密钥及阿里云、腾讯云、华为云、AWS、Google Cloud、Azure 等云平台凭证，通过 MinIO 默认密码访问对象存储并创建每 30 分钟连接的计划任务。横向移动到 MySQL 和 Nacos 服务器，利用数据库 Root 账号及 Nacos 漏洞 CVE-2021-29441 获取管理权限，加密全部 1342 条配置数据，留下包含比特币钱包地址和 Proton Mail 的勒索信息。AI 在首次操作失败后 31 秒内自主完成错误分析与修复，累计执行超过 600 个攻击载荷，全程无需人类操作。
推荐理由：全球首例AI Agent自主完成勒索攻击，证明攻击自动化已从理论走进现实，所有云服务暴露面都需要重新审视。
meng shao@shao__mengAI 评分57577月3日，国家互联网信息办公室就《互联网信息服务管理办法（修订草案征求意见稿）》再次公开征求意见。草案新增“智能信息服务”专章，要求AI服务提供者公示技术基本原理、训练数据来源，对生成合成内容进行标识，禁止强制用户使用智能服务或利用算法扰乱网络舆论。草案还强化用户账号管理，明确对超过6个月不登录账号可依约注销；要求平台建立网络暴力信息特征库，提供屏蔽、禁止转载等防护选项。意见反馈截止8月2日。
推荐理由：国家网信办首次为AI信息服务设专章，要求公示算法原理、标识生成内容，国内所有做AI产品的团队都得认真看这份征求意见稿，影响可能比模型发布更大。
北卡罗来纳大学教堂山分校研究团队利用自动化框架CASPER，从8个维度评估数千个AI生成小说中的角色刻画，发现AI生成的角色往往套路化、依赖刻板印象，故事多以圆满结局收尾，缺乏悬疑和模糊性。研究第一作者、计算机科学研究生Annelise Blay指出，人类作家常留下未解疑问，保留角色神秘性，而模糊性正是故事令人难忘的关键。该研究已发表于ACL Anthology。
