跳到正文
#论文/研究
10月21日周三
  1. Hugging Face 社区博客60

    Ai2 发布 FairStress 基准，测出 LLM 决策中的反刻板印象过度纠正

    Ai2 发布 FairStress 基准，用 300 个场景扩展成超过 1300 万测试用例，测量大语言模型在高风险决策中面对对抗前缀时的公平性。评测发现模型在身份信息显式时更易放弃支持少数群体编码候选人的正确决策，平均放弃差距为 6.9（隐含身份）至 9.3 个百分点（显式标签）。基准已开放下载并集成到 Olmo-eval，测试的九种去偏方法中仅反事实链式推理在保留准确率的同时缩小差距。

  2. Artificial Analysis39

    同一实验室的模型往往具有相似的人格画像，不过有些实验室存在明显不同的子群。 按30项人格特质对模型进行聚类，可得到三个自然形成的家族：Anthropic 模型与 OpenAI 的 GPT-6 模型归为一类，Google 模型与 Meta 的 Muse 模型归为一类，较早期的 OpenAI 模型则与 Llama 4 Maverick 同属一类。下文我们将逐一拆解各实验室内部的子群。

  4. Ai2 / Allen Institute for AI61

    Ai2 发布 FairStress 基准：测量 LLM 决策中被隐藏的公平性不对称

    Ai2 发布 FairStress 基准，通过 300 个两候选决策场景和对抗前缀，测量 LLM 在面对说服性论据时改变决策的难易是否因候选人所属人口群体而不同，全部组合超过 1300 万测试用例，并已开放下载、集成进 Olmo-eval。

    推荐理由：Ai2 用对抗前缀测出模型在人口群体之间的决策不对称，并发现多数去偏方法不可靠，提供了诊断与改进思路。

10月20日周二
  2. METR：Blog69

    METR 评测 Anthropic 2026 年 8 月风险报告对齐章节，认可低风险结论但质疑评估方法

    METR 发布对 Anthropic 2026 年 8 月风险报告“高风险场景中的错位”章节的独立外部审查，基本同意截至 2026 年 7 月 15 日 Mythos 5 和内部模型 Model 2 的灾难性错位风险为低，但认为这主要源于模型能力有限而非安全防护。

    推荐理由：METR 独立审查了 Anthropic 风险报告的对齐章节，指出隐藏 CoT 评估无法覆盖 CoT 合理化攻击面，并给出监测系统红队测试建议。

  3. Anthropic：Research74

    Anthropic 用 Claude 设计出针对蝎子神经毒素的蛋白质迷你结合剂

    Anthropic 让内部研究模型在 Claude Science 中主要自主运行 64 小时，设计针对五种蝎子神经毒素的蛋白质迷你结合剂，共生成 318,484 个设计、筛选出 180 个。

    推荐理由：原文完整披露设计流程、筛选标准和实验数据，读者可以了解 AI 驱动蛋白质设计在被忽视疾病上的真实进展与局限。

  4. Sakana AI：Blog49

    Sakana AI 提出 QD-Rec：用开放式探索提升推荐质量与多样性

    Sakana AI 开发出推荐方法 QD-Rec，把「候选＋选择理由假设」作为推荐单元，由生成 AI 基于历史优质假设反复生成新假设，并用 Quality-Diversity 思路保留不同切口的推荐。在 M&A、客户定向、论文推荐三类任务中，QD-Rec 多数设置下平均评分高于每次从零写假设的基线，并构建出规模更大的推荐集合。

  6. 公众号：小红书技术47

    小红书 AllSpark 提出 ROSS：让模型重学训练中自生成的 rollout

    小红书 AllSpark Team 提出 ROSS，让模型重新学习训练中自己生成的 rollout，通过筛选有价值轨迹片段并保留完整上下文做选择性监督。基于 Qwen3.6-35B-A3B，该方法在单轮 RL 中把数学均分从 75.19% 提至 76.98%、代码从 42.09% 提至 44.21%，MOPD 均分从 58.40% 提至 62.20%。

  7. Rohan Paul50

    普林斯顿论文发现，将多个开发者各自构建的专用智能体组合起来，可超越任何单一开发者的通用智能体，GAIA准确率达70%。在相同总开发预算下，单独得分最高仅35%的专用智能体组合后达到70%，比通用智能体中位数高12个百分点；但在仅需网页搜索的SealQA上，组合系统成本更高且表现更差。作者认为智能体应填补共享系统的空白：单独得分19%的智能体可将组合系统从40%提升至53%。

  8. Stanford HAI News67

    斯坦福 HAI 发布 MedHELM、PhysicianBench 与 HealthAdminBench，测出医疗 AI Agent 实际完成率不足一半

    斯坦福团队总结三年构建医疗 AI 基准的成果，PhysicianBench 上最佳模型 GPT-5.5 单次仅完成 46% 任务，HealthAdminBench 上 Claude Opus 4.6 完成 36.3%。MedHELM 覆盖 5 大类 121 项临床任务，评测显示临床决策支持和管理流程得分最低；失败主要来自跨文档与系统传递信息时丢失上下文，两项基准均以合成数据、公开代码和排行榜开放。

    推荐理由：斯坦福团队基于三年基准构建经验给出实测结论，最好的医疗 Agent 完成任务不足一半，失败多源于跨系统信息传递。

  9. IT之家·人工智能66

    研究称 AI 仅凭一张面部照片可预测癌症患者生存几率

    据彭博社报道，研究人员在《柳叶刀·数字健康》发表研究，开发出仅凭一张面部照片预测癌症患者生存几率的 AI 工具。模型使用超过 4000 万张人脸图像和 3 万多名癌症患者照片训练，可生成风险评分，分数最高者更可能在 90 天内死亡，估算年龄误差约 5 岁，并能在不同年龄、种族、性别和癌症类型人群中生效。

  11. Dongxi 东锡 NLP40

    推荐阅读！ 面向可扩展潜在token化的生成式表征学习

    引用Alan Baade@BaadeAlan

    1/ The tokenizer is a new scaling axis! We introduce an approach for diffusable representation learning that's principled, scalable, and works when DINO/LeJEPA collapse. We get joint tokenizer+diffusion scaling laws and it's compute-optimal vs raw diffusion w/ @drfeifei @GordonWetzstein @jcjohnss @ericryanchan @vincesitzmann @KyleSargentAI Thread, Paper, and Blogpost below

  15. NVIDIA：Newsroom49

    NVIDIA 在 Jülich 超算中心完成 104 量子比特容错量子计算模拟

    NVIDIA 在德国 Jülich 超算中心的 JUPITER 上完成 104 量子比特容错量子计算模拟，这是迄今规模最大的容错量子处理器完整模拟。该模拟验证了 magic state cultivation 方案，所需物理量子比特比此前方法少 90%，并首次在真实硬件噪声下评估其表现。模拟基于 GH200 超芯片与 cuQuantum、CUDA-Q 运行，可让研究者在造硬件前预测设计性能。

  17. MIT News43

    MIT 等团队开发 E(3)-Pose：用对称性先验提升胎儿脑 MRI 成像可靠性

    MIT、波士顿儿童医院与 Inria 的研究者开发并训练了深度学习模型 E(3)-Pose，可在胎儿头部运动时辅助成像，生成供放射科医生查看的高分辨率三维图像。该模型把胎儿头部的左右对称性等物理原理嵌入网络架构，而非仅从数据中学习物理规律，从而更准确地识别大脑朝向。相关论文已在 2026 年欧洲计算机视觉会议（ECCV）上展示，目前模型主要基于第三孕期胎儿训练。

  22. Cohere Labs：官方研究博客42

    Cohere Labs 提出 CALIBER：让推理模型在推理前后分别给出置信度

    Cohere Labs 提出 CALIBER 方法，训练推理模型在开始推理前估计解题成功率、推理后再评估该答案正确的可能性。在 BigMathDigits 上，7B 模型的 ECE 从最强单置信度基线的 0.059 降至 0.028，降幅 52.5%，AUROC 达 0.806、Brier 分数 0.130。该 7B 模型在未经额外训练的情况下，改进还扩展到数学之外的问答基准。

10月19日周一
  8. Rohan Paul41

    针对安全漏洞的 AI 智能体在 200 次运行中，60.4% 的 token 花在理解代码和推理如何触发漏洞上。现有省钱方法效果有限，仅 24.4% 的对比能在更低成本下保持成功率。为此构建的 AVRI 将相关代码一并返回并保留程序输入与不安全操作间的链接，在 20 个新任务上使 Codex 总成本降 18.0%、OpenCode 降 23.7%，成功率与召回率不降。

  9. Dongxi 东锡 NLP35

    推荐阅读！ TreeOPSD： 面向长程智能体强化学习的树感知后验蒸馏

    引用Dr. Cheems Wang 🏡@AlbertW24045555

    (1/5) New preprint: TreeOPSD, critic-free RL for long-horizon LLM agents 🌳 Long-horizon agents receive a single outcome reward after many turns, and each rollout batch feeds several sequential mini-batch updates while the policy drifts from the one that sampled it. TreeOPSD backs terminal rewards up a rollout tree and splits each update into two steps: construct a target for every turn, then match the current policy to it with forward KL. This leads to: • closed-form, bounded turn targets that commute with tree backup, so shared prefixes are trained once with no loss of credit • the exact tree policy gradient on the first mini-batch, and updates that stop at the target and reverse after overshoot • consistent gains over GRPO, GSPO and a matched tree baseline, largest on the longest-horizon tasks On Deep Research, TreeOPSD lifts Qwen3-30B-A3B-Thinking-2507 from 16.23 (GRPO) to 21.20 average accuracy. Title: Tree-Aware Posterior Distillation for Long-Horizon Agentic Reinforcement Learning Paper: https://arxiv.org/pdf/2610.23181 Together with @TencentHunyuan #LLM #RLVR #AIAgents

10月18日周日