跳到正文
10月23日周五
  1. Anthropic:Research85

    Anthropic 用 Claude 对 123 个开源库完成汇编级形式化安全证明

    Anthropic 与 Theorem 合作,用 Claude 将 OSS-Fuzz 模糊测试转化为规格,对 123 个开源库的 239 个入口点证明了任意 64 MB 以下输入不崩溃,生成约 1.8 亿行 Rocq 证明。

    推荐理由:Anthropic 用 Claude 对 123 个 OSS-Fuzz 开源库在 RISC-V 汇编层面写 Rocq 证明,读者可以据此了解 LLM 规模化形式化验证的实际流程与局限。

  2. MIT News44

    MIT CSAIL 与天津大学推出 X-Hinges 软件,可 3D 打印能感知动作的自感知物件

    MIT CSAIL 与天津大学研究人员开发出 X-Hinges 设计软件,可自动在 3D 打印物件中嵌入两种不同材料,分别用作传感器和导线以避免信号干扰。该工具支持压缩、上下、左右最多三个运动轴,并同步采集各方向运动数据,已用于制作可教机器人抓取积木的手套、折纸台灯和物体识别装置。目前每件打印品的电路布局存在细微差异,需借助计算机视觉系统重新校准传感器输出。

  3. Satya Nadella70

    微软团队在 Science 发表研究,展示其诊断编排系统如何推理复杂医疗病例,在提升诊断准确率的同时降低检测成本。引用内容称 MAI Diagnostic 比可上网查资料的急诊科医生准确 1.7 倍,且成本更低、所需医学检查更少。

    引用Mustafa Suleyman@mustafasuleyman

    我们的 MAI 诊断系统现在在急诊科(ED)的准确率是医生的 1.7 倍,即使医生可以上网查阅资料。 它的成本也更低,并且为得出诊断所做的医学检查更少。 今天发表在《Science》期刊上……

    同一件事,精选收录的是《Microsoft AI 发布 SDBench 基准与 MAI-DxO 诊断系统,登 Science》

  4. Rohan Paul65

    METR 和 Redwood Research 各一名员工今年夏天在 OpenAI 驻场三周,评估其内部智能体错位监控系统,简报现已公开。

    引用METR@METR_Evals

    Two employees from METR and Redwood Research worked on premises at OpenAI for three weeks this summer in an embedded assessment pilot. This team evaluated the systems OpenAI was using to monitor for misalignment from internal agents. A brief write-up of their work is now public.

  5. Redwood Research:Blog78

    METR 与 Redwood Research 红队测试 OpenAI 内部智能体监控系统,发现多个漏洞

    METR 与 Redwood Research 各派一名员工,于 7 月 21 日至 8 月 11 日对 OpenAI 内部失准监测系统开展三周高权限试点压力测试,产出 61 页内部报告。

    推荐理由:作者以亲历视角披露对 OpenAI 内部监控系统的压力测试,给出覆盖率估算、漏洞清单和可复用的监控设计原则。

10月22日周四
  1. Google DeepMind:Blog53

    Google DeepMind 与 WRI、IIASA 发布 ForTy 全球森林类型地图

    Google DeepMind 与 Google Research 联合 World Resources Institute 和 IIASA 发布 Forest Typology(ForTy)2020 全球地图,以 10 米分辨率将地球每块土地划分为 FAO 定义的六类森林与土地类型,并首次提供 2017 至 2025 年逐年变化时间序列,展示天然森林被种植园或农场取代等变化。

  2. meng shao45

    斯坦福与伯克利研究者提出可插拔小模块 TokenGate,插在现有 LLM 浅层学习"跳读"长上下文,只把 top-K token 传给上层。论文报告无精度损失时首 token 时间快 1.4–11.3 倍、峰值显存降 1.5–3.4 倍,相对最强免训练剪枝最高约 6.4 倍更快、2 倍更省显存。训练成本接近 LoRA,无需从零预训练。

    引用Liana@lianapatel_

    Introducing ✨Token-Gated Language Models✨ for up to 11x faster prefill by learning to skim context, conditionally forwarding only tokens that matter. Akin to the shift from dense models to MoEs, the next frontier of efficient LLMs is conditional computation over a new scaling axis: context tokens🧵👇

  3. Sierra:Blog60

    Sierra 发布 𝜏-Entity 基准,检验语音智能体能否准确采集姓名、电话等实体信息

    Sierra 发布 𝜏-Entity 基准,测量语音智能体能否正确采集、识别错误并修复姓名、电话号码、地址和邮箱等细节,包含 10 种实体类型共 200 个任务,并与 𝜏-i18n 一样覆盖六种语言。

    推荐理由:Sierra 自建基准和论文量化了语音智能体在准确采集姓名、电话等细节上的失败率,并给出可迁移的验证策略效果数据。

  4. meng shao69

    @oradotai 联合 Vercel、Stripe、Auth0、Mintlify、Tavily、Google 等推出 AgentReady(agentready.org),一份 MIT 许可的开源规范,规定网站要让 AI Agent 找得到、读得懂、用起来需做到什么。

    引用ora@oradotai

    Introducing http://AgentReady.org, the first open standard for agent experience. Agents are a new class of user, but there's still no shared definition of what it takes to be ready for them. So we partnered with the leading companies in the agentic web such as Vercel, Stripe, Auth0, Mintlify, Tavily and Elementor. Our research lab ran agents on real tasks more than 250,000 times to measure what actually decides whether an agent succeeds, and every requirement traces back to that data. The result is a short set of essentials in the order agents meet a product: find, read, act. We've been overwhelmed by requests to join. If you build or study the surfaces agents touch, come help shape it. The spec: http://agentready.org The story behind it: http://ora.ai/blog/agentready-launch

  5. Chelsea Finn44

    我们如何扩展 LLM 的上下文? Agentic search 可扩展到任意规模的信息,但很容易遗漏相关信息。 想法💡:针对下游效用优化信息的组织方式。即使在 OOD 领域也能带来 30+% 的提升 论文 + 代码:https://librarian-agents.github.io/

    引用Anikait Singh@Anikait_Singh_

    LLMs deployed in specialized domains, from enterprise codebases to law firms, dig through a mountain of unstructured context! Our new paper, Librarian Agents, asks: can an agent adapt by curating its own long-context workspace, anticipating queries before they arrive? 🧵⬇️

  6. Aravind Srinivas42

    Perplexity 与 NVIDIA AI 提出后训练方法 JOLT,让同一模型同时充当教师和学生,并训练教师从自身尝试的奖励中学习、惩罚偏离学生行为的漂移。在 MATH 基准上,JOLT 用少 6.5 倍的训练 token 达到与 GRPO 相当的准确率。JOLT+ 在此基础上为学生模型增加结果奖励,在数学、编程、终端任务和工具使用基准上明显优于 GRPO。

    引用Perplexity@perplexity_ai

    New research: We developed JOLT, a post-training method where one model acts as both teacher and student, with the teacher trained to give feedback the student can use. On MATH, it matched GRPO's accuracy with 6.5x fewer training tokens. https://www.perplexity.ai/hub/blog/a-good-teacher-meets-the-student-where-they-are

  7. Hugging Face 社区博客45

    如何通过专精 SLM 词表将实际应用推理成本降低 77%

    基于 Qwen3-4B 的葡萄牙语作文自动评分器通过 VocabX 方法重建词表,在基座模型、数据和训练配方不变的情况下将实测推理成本降低 77%。该方法按每个 token 的成本而非词频来专精词表,使输出层从约 152,000 行缩减到约 65,000 行。原文指出生成 token 的成本约为读取 token 的 7.4 倍,词表是领域专精模型最大的成本杠杆之一。