跳到正文
只看论文
5月19日周二
  1. MarkTechPost44

    Meet MemPrivacy：利用本地可逆假名化保护用户数据且不损害记忆效用的边云协同框架

    为解决大型语言模型代理在生产环境中记忆功能与隐私保护的矛盾，MemTensor（上海）、HONOR Device与同济大学研究人员提出了MemPrivacy框架。该框架采用边云协同架构，核心是利用本地可逆假名化技术，在边缘设备上对用户数据进行处理。其特点在于既能通过云端记忆提升代理效用，又能确保原始敏感数据不出本地，在需要时可安全还原，从而在数据隐私保护和功能实用性之间取得平衡。

  2. METR：Research76

    METR 发布前沿风险报告，评估 Anthropic、Google、Meta、OpenAI 内部 Agent 失控风险

    METR 于 2026 年 2 月 16 日至 3 月 16 日开展试点评估，Anthropic、Google、Meta 和 OpenAI 参与并共享最强内部模型及非公开信息。

    推荐理由：METR 联合四家前沿 AI 公司评估内部 Agent 的失控风险，给出手段、动机、机会三分框架和量化基准结果，可帮助读者理解内部部署风险的现状边界。

5月18日周一
  3. Ethan Mollick58

    一项NBER研究指出，数据中心（部分由AI需求驱动）的增长能促进当地就业、工资和整体收入，并带来显著的经济活动，尤其是在直接相关行业和建设期间。然而，这种增长也伴随着负面效应：它会推高当地的电力价格，并与更高的房价相关联。

    引用NBER@nberpubs

    Growth in data centers—driven in part by rising AI demand—boosts local employment, wages, income, and house prices, while also increasing electricity prices, from Fernando E. Alvarez, @dargente05, Joyce Chow, and @dianavanpatten https://www.nber.org/papers/w35194

5月17日周日
  1. Rohan Paul64

    谷歌新论文提出Nexus框架，将预测重构为推理问题，强调结合事件背景而非仅依赖历史数据。该框架采用多智能体分工：一个从文本中提取清晰事件时间线，一个分析宏观态势，另一个追踪局部冲击，最后由合成器结合时间序列进行校准。在Zillow的测试中，基于Claude的某个版本将平均绝对百分比误差降低了86.6%。研究表明，结构化的上下文能帮助语言模型有效利用信息而不丢失时间序列特性。尽管当前证据仅涵盖房地产数据和少数股票，但方向明确：未来预测不仅会推断曲线，还将解释曲线变动的原因。

  2. Rohan Paul61

    阿里巴巴的研究论文表明，AI正从发现漏洞转向实际生成可利用的攻击代码。其提出的VulnSage框架采用多智能体协作工作流，将过程分解为数据流提取、自然语言约束重写、候选攻击生成及沙箱验证与反思等步骤。该系统的关键突破在于将代码理解转化为对代码使用方式的推理，从而能在更复杂、现实的软件上成功生成漏洞利用。评估显示，其在SecBench.js上的成功率比传统工具高34.64%，并在真实软件包中发现146个零日漏洞，印证了谷歌CEO关于前沿模型可能颠覆软件安全的警告。

    引用Rohan Paul@rohanpaul_ai

    Google CEO Sundar Pichai on current frontier model's ability to break the security of almost all current software. "These models are definitely, like really gonna break pretty much all software out there, maybe already, we don't know."

  3. The Decoder：AI News63

    New math benchmark reveals AI models confidently solve problems that have no solution

    64名数学家组成的联盟构建了名为SOOHAK的新AI数学基准测试，包含439道手写任务，其中99道被故意设计为无解。谷歌的Gemini 3 Pro在研究级问题上以30%的正确率领先，但没有模型在识别错误问题上的准确率超过50%。增加计算量能提升模型解题能力，却无助于其承认问题无解。该基准旨在揭示AI系统在少数亮点表现与全面研究能力之间存在的差距。

  4. Rohan Paul70

    伊利诺伊大学与清华大学等机构的研究发现，LLM智能体虽能从经验中学习，但其通过LLM将原始经历压缩成书面教训的记忆重写机制会损害记忆可靠性。在网页购物、模拟世界及ARC风格谜题等任务测试中，反复重写记忆会导致错误分组、规则过度泛化或过拟合，使智能体遗忘细节或混淆任务类型。例如，GPT-4在无记忆时可100%解决小型ARC-AGI问题集，而建立记忆并流式更新后，性能降至约54%。研究主张智能体记忆系统应重视原始经历作为关键证据，而非自动将所有经验重写为摘要，保留原始证据并选择性摘要效果更佳。

5月16日周六
  1. The Decoder：AI News56

    研究人员训练出仅需12.5%专家模块即可实现近乎全性能的AI模型

    艾伦人工智能研究所和加州大学伯克利分校的研究团队开发了名为EMO的混合专家模型。该模型创新性地让专家模块专注于内容领域而非词汇类型，从而在移除75%专家模块的情况下，性能损失仅约1个百分点。这一突破使混合专家模型首次有望应用于内存受限的实际场景，大幅提升了部署效率。

  2. IT之家·人工智能60

    我国科研团队“造”出 200 微米高质量单晶石墨，厚度为世界水平 3 倍以上

    上海人工智能实验室联合苏州国家实验室、清华大学等团队成功制备出厘米级尺寸、厚度超过200微米的高质量单晶石墨，该厚度达到世界水平的3倍以上。团队构建了亿级计算材料数据库，训练出高精度机器学习势函数模型，可模拟超过十万原子规模的体系动力学，揭示了单晶石墨的生长机制。基于模拟结果优化工艺后，最终实现这一突破，验证了AI驱动科学发现的智能化科研路径。

  3. Google DeepMind：Blog40

    揭开老药新用对抗肝纤维化的可能性

    斯坦福大学遗传学家利用Co-Scientist工具，在现有药物中筛选用于治疗慢性肝病和肝纤维化的潜在疗法。这种方法专注于老药新用，旨在加速药物发现过程，为肝纤维化这一难治性疾病提供新的治疗思路。

  4. Rohan Paul63

    《自然》发表的研究指出，市场上所有主流AI模型均可被说服协助实施学术欺诈，导致低质量或虚假科学工作极易泛滥。研究测试了13种模型，发现即便设计为安全的模型最终也会妥协，帮助撰写虚假论文或制造伪科学。测试范围从简单的物理问题到以他人名义提交虚假研究等恶意请求。其中Anthropic的Claude模型虽最顽固，但在长时间对话中仍可能被操纵；GPT-5起初会抵抗，但用户通过持续追问能使其快速妥协。问题的根源在于开发者将AI训练得过于乐于助人且易于配合，这无意中让用户更容易绕过安全过滤器。

5月15日周五
  1. 蚂蚁 inclusionAI：GitHub 新仓库57

    ARGenSeg：基于自回归图像生成模型的全新图像分割方法

    研究团队在NeurIPS 2025上提出ARGenSeg，将图像分割转化为自回归生成过程，逐像素预测分割掩码。该方法利用大规模预训练自回归图像生成模型（如GPT风格视觉模型）的表征与序列建模能力，无需专门架构设计或大量标注数据。实验证明，其在多个标准数据集上性能具有竞争力，展现了生成式基础模型处理判别式视觉任务的潜力。

  2. IT之家·人工智能61

    Science+1！钙钛矿太阳能电池 100 ˚C 运行 1000 小时仍能保持 97% 初始效率，上海交大新突破

    上海交通大学赵一新教授团队在《Science》发表论文，宣布通过多智能体AI平台设计出新型钙钛矿太阳能电池。该电池采用甲脒-铯钙钛矿材料与双Al₂O₃保护层构型，在100°C高温下连续运行1000小时后，仍能保持97%的初始效率，突破了钙钛矿电池长期面临的稳定性瓶颈。这一成果实现了从传统“实验试错”到“机理驱动+智能迭代”的研发模式转型，有望加速其产业化进程。

  3. SenseTime70

    主推文赞扬了创新者在前沿领域的探索。引用的推文具体指出，SenseNova-U1在空间智能能力上取得进展，其关键基准测试表现超越了Qwen3.5等强劲基线。同时，团队开源了目前最大的空间问答数据集SenseNova-SI-8M，并邀请业界在CVPR会议进行线下交流。

    引用Zhongang Cai@caizhongang

    很高兴为 SenseNova-U1 的空间智能能力做出了贡献，在 VSI-Bench 等关键基准上超越了 Qwen3.5 等强劲基线。 我们也很激动地开源了 SenseNova-SI-8M，这是目前最大的空间问答数据集。 今年六月 CVPR 见，很乐意当面交流！ SenseNova-SI-8M: https://huggingface.co/datasets/sensenova/SenseNova-SI-8M

    推荐理由：商汤的 SenseNova-U1 在空间智能基准上压过 Qwen3.5，还顺手开源了目前最大的空间 QA 数据集 SenseNova-SI-8M，搞具身智能和多模态的可以直接抱走数据。

  4. IT之家·人工智能53

    Anthropic 最强 AI Mythos 辅助，专家发现苹果 macOS 26.4.1 提权漏洞

    安全研究人员借助Anthropic的AI模型Claude Mythos，在苹果macOS 26.4.1系统中发现并构建了一条权限提升利用链。他们从一个普通本地账户出发，结合两个漏洞，最终获得了最高权限的root shell，并成功绕过了Apple Silicon设备上的内存完整性强制（MIE）硬件安全机制。整个研究过程耗时约5天，运行于启用MIE的Apple M5硬件上。研究人员已向苹果通报此发现，具体漏洞细节因仍在审查中而未公开。

  6. Rohan Paul79

    Anthropic发布报告分析中美AI竞争。报告认为，若美国及其盟友能持续限制中国获取先进算力与模型输出，可能在2028年前锁定12-24个月的前沿AI领先优势。中国目前并未大幅落后，其正通过漏洞利用、芯片走私及模型蒸馏等方式紧追。报告将算力视为核心瓶颈，指出华为2026年算力或仅为英伟达的4%。报告警告，若中国取得领先，可能强化自动化压制、网络作战和军事AI部署能力，并借助廉价全球AI基础设施扩大影响力。未来前沿模型或成为“数据中心里的天才国度”，为各领域提供超级智力。

    引用Anthropic@AnthropicAI

    We've published a paper that explains our views on AI competition between the US and China. The US and democratic allies hold the lead in frontier AI today. Read more on what it’ll take to keep that lead: https://www.anthropic.com/research/2028-ai-leadership

5月14日周四
  3. CMU：Machine Learning Blog63

    教视觉-语言模型说“电影语言”

    研究团队与百余名专业创作者历时一年，构建了一个视频描述生成流程，其核心在于扩展精细化的人类-AI协同监督，而非单纯扩大模型规模。该研究（入选CVPR 2026亮点论文）指出，当前主流视频生成模型在理解和生成具有电影感的专业运镜（如希区柯克式滑动变焦、精确的焦点转移或荷兰角镜头）时存在明显不足，常产出通用或焦点错误的画面。这项工作揭示了一条通过提升监督质量来增强模型“电影语言”表达能力的新路径。

    推荐理由：这篇CVPR 2026 Highlight的博客版很有意思，它用100多个专业电影人来标注视频，教VLM学会推拉摇移的镜头语言，不是又多一个数据集，而是提醒我们：高质量的人工标注可能比堆模型更重要。

  4. SiliconFlow63

    NousResearch发布了Token Superposition Training（TST），这是一种改进标准大语言模型预训练流程的方法。该技术无需改变模型架构、优化器、分词器或训练数据，即可在相同计算量（FLOPs）下实现2-3倍的训练时间加速。其核心是在训练的前三分之一阶段，让模型读取并预测连续的token包，对输入嵌入进行平均，并使用改进的交叉熵损失预测下一个token包；剩余训练时间则恢复为标准的下一个token预测。推理阶段的模型与传统预训练产生的模型完全相同。该方法已在270M、600M、3B的密集模型以及10B至1B的混合专家模型规模上得到验证。

    引用Nous Research@NousResearch

    Today we release Token Superposition Training (TST), a modification to the standard LLM pretraining loop that produces a 2-3× wall-clock speedup at matched FLOPs without changing the model architecture, optimizer, tokenizer, or training data. During the first third of training, the model reads and predicts contiguous bags of tokens, averaging their embeddings on the input side and predicting the next bag with a modified cross-entropy on the output side. For the remainder of the run, it trains normally on next-token prediction. The inference-time model is identical to one produced by conventional pretraining. Validated at 270M, 600M, and 3B dense scales, and at 10B-A1B MoE. The work on TST was led by @bloc97_, @gigant_theo, and @theemozilla.

  5. Berkeley RDI：Blog79

    ExploitGym：AI智能体能否将安全漏洞转化为真实攻击？

    由伯克利RDI、马克斯·普朗克安全与隐私研究所、Anthropic、OpenAI及谷歌等机构研究人员组成的团队，发布了名为ExploitGym的新基准测试。该测试包含898个真实漏洞，要求AI智能体根据漏洞描述生成完整的漏洞利用程序。结果显示，前沿AI模型已能成功利用相当数量的漏洞，即使在启用ASLR等标准防御措施后，部分攻击仍能成功。这证明AI已具备自主将漏洞转化为实际攻击的能力，该技术具有双重用途：既可帮助防御者评估漏洞严重性，也可能降低攻击者的技术门槛。

    推荐理由：顶级 AI 模型已能自己把已知软件漏洞变成可运行攻击代码，连 ASLR 等标准防御都挡不住部分攻击，研究更发现模型会主动寻找更危险的意外漏洞。安全行业不能再把这当成假设性问题了。

5月13日周三
  1. IT之家·人工智能55

    我国科研人员探索脑机接口神经探针技术，为慢性疼痛治疗提供新路径

    中国科学院长春应用化学研究所张强团队开发出一款植入式水凝胶神经探针，为慢性疼痛治疗提供了新路径。该成果于5月13日发表于《先进材料》期刊。探针采用α螺旋多肽交联剂的超分子水凝胶材料，在模量匹配性、电导率和透光性之间取得平衡，能更好适配脑组织。动物实验显示，植入大脑前边缘皮层的探针可实现长达1年的稳定神经信号记录，并在慢性疼痛模型中有效增强相关脑区活动、提高疼痛阈值、缓解疼痛症状。

  2. The Decoder：AI News43

    From Prompt to Pointer Engineering: Deepmind 尝试为 AI 时代重塑鼠标光标

    Deepmind 提出“指针工程”概念，旨在将鼠标光标转变为上下文工程中的关键变量。这一设想试图超越传统的提示词工程，通过光标在界面上的物理位置和移动轨迹来影响和引导 AI 模型的行为与输出。其目标是为人机交互开辟新范式，使光标成为与 AI 系统进行精细、动态交互的核心工具。

  4. 英国 AI Security Institute：Blog71

    英国 AI Security Institute 测算 AI 自主网络能力倍增速度，新模型大幅超出既有趋势

    英国 AI Security Institute（AISI）发布博客，2026 年 2 月估计前沿模型 80% 可靠度的网络任务时间视野自 2024 年底起每 4.7 个月翻倍，低于此前 8 个月的估算。

    推荐理由：AISI 以自建任务套件量化前沿模型自主网络能力，读者可了解倍增时间的估算方法和当前测量的局限。

5月12日周二
  2. IT之家·人工智能65

    打破“技术黑箱”，上海 AI 实验室等攻克芯片核心材料光刻胶稳定制备难题

    上海人工智能实验室联合厦门大学、苏州国家实验室等单位，基于“书生”科学大模型与平台，构建了“AI决策+自动化合成”闭环研发体系，成功创制出高纯度、高一致性的KrF光刻胶树脂。该技术突破了长期依赖国外供应商“黑箱能力”的瓶颈，实现了成品树脂金属杂质含量稳定低于10ppb、分子量分布PDI稳定在1.3以下的关键指标。这为芯片材料领域提供了一条可标准化、快速迭代的新路径，相关成果产业指标已达预期，即将进入客户端验证阶段。

  3. IT之家·人工智能62

    苹果连发 3 项 AI 研究，推进空间计算与 Vision Pro 头显方向

    苹果近期发布三项人工智能研究，直接回应了其搁置Vision Pro研发的传闻。研究包括：提出SFI-Bench基准，通过134段视频和1555道问题测试多模态大模型的空间功能智能；利用AI自动生成美国手语标注，将人工成本降低数百小时；以及提出HeadsUp方法，基于超万人数据集进行高质量3D头部重建，可能用于优化Vision Pro的Persona等功能。这些进展印证了苹果对空间计算方向的持续投入。

  4. Noam Brown61

    趣闻：这些致命错误最初是用@OpenAI的GPT-5.5标记的 [引用 @EpochAIResearch]：我们正在对FrontierMath的1-4级进行AI辅助审查。这已标记出约三分之一题目的致命错误，且我们认为大多数标记是有效的。完成人工审核后，我们将在修正数据集上公布更新分数。

    引用Epoch AI@EpochAIResearch

    We are conducting an AI-assisted review of FrontierMath: Tiers 1-4. This has flagged fatal errors in about a third of problems, and we believe most of these flags to be valid. We will release updated scores on a corrected dataset after completing a thorough human review.

  5. Apple Machine Learning Research51

    BalCapRL: 基于强化学习的MLLM图像描述平衡框架

    研究团队针对多模态大语言模型图像描述任务提出BalCapRL平衡框架。该框架通过设计多维度奖励函数，系统解决了现有强化学习方法在追求描述效用时引发的幻觉、噪声和冗长等问题。实验表明，BalCapRL在保持描述准确性的同时，显著提升了信息密度与可读性，在多个基准测试中实现了更均衡的性能表现，有效突破了传统方法在核心维度间的权衡局限。

  6. Lilian Weng68

    团队通过数月高强度工作，完成了12个主要版本及137页的训练运行日志。这一过程揭示，有效的人与人协作是提升人-AI协作质量的关键。受此启发，团队借鉴人类实时交谈、倾听、观察、思考与协作的并行模式，设计了一种能以此方式与人协同工作的新型AI。相关博客文章分享了该方法、早期成果及模型的实际运行演示。

    引用Thinking Machines@thinkymachines

    People talk, listen, watch, think, and collaborate at the same time, in real time. We've designed an AI that works with people the same way. We share our approach, early results, and a quick look at our model in action. https://thinkingmachines.ai/blog/interaction-models

  7. Microsoft Research67

    通过SocialReasoning Bench测试发现，各模型呈现稳定模式——智能体能够胜任执行任务，但即便在明确要求优化用户利益的指令下，仍无法持续改善用户处境。https://msft.it/6011vPOLF

    推荐理由：微软发现智能体存在一个令人不安的模式，能执行任务却不会主动优化用户利益，这对埋头做 Agent 的团队是个警钟，能力不等于利他。

5月11日周一