跳到正文
3月5日周四
  1. 英国 AI Security Institute:Blog63

    AISI 与 Irregular 发现加大推理预算可显著提升 AI 网络任务成功率

    AISI 与 Irregular 联合研究发现,近期前沿模型能有效利用远超常规评测设置的推理预算:AISI 用 50M token 上限、Irregular 用 1000 turns,均观察到成功率随预算扩大持续上升,约 8% 的 AISI 任务只有在预算从 10M 提到 50M token 时才被解决。

    推荐理由:AISI 与 Irregular 用更大推理预算实测发现常规评测低估模型网络攻击能力上限,并给出按 cost per success 选预算的方法。

  2. Anthropic:Research

    AI对劳动力市场的影响:一项新指标与初步证据

    研究团队提出"观察暴露度"新指标,综合LLM理论能力与实际使用数据,重点衡量自动化工作场景下的AI替代风险。数据显示,AI实际应用覆盖率远低于理论潜力。高暴露职业从业者多为年长、女性、高学历、高收入群体,美国劳工统计局预测这些岗位至2034年增长将放缓。尽管2022年底以来高暴露群体失业率未现系统性上升,但年轻员工招聘已显现放缓迹象。

3月4日周三
3月1日周日
  1. Anthropic:Alignment Science Blog47

    Anthropic 研究无监督引导安全性的 3 项挑战与 2 条希望路径

    Anthropic 研究者用新数据集压力测试无监督引导与易到难泛化技术,发现现有方法在 3 项现实挑战下均无法可靠奏效。这 3 项挑战是:数据集中存在比真实性更显著的特征、训练集类别不平衡、以及模型无法决断的模糊任务。研究测试的两条希望路径——集成多个预测器、结合无监督与易到难方法——仅能部分缓解问题,实验基于 Llama 3.1 8B。

2月26日周四
  1. 蚂蚁百灵:Developer Blog86

    Ling 2.5 Lightning Attention+MLA 混合线性架构改造实践

    为提升超长上下文下的计算效率,Ling 2.5架构将Ling 2.0的GQA改造为1:7的Lightning Attention与MLA混合线性注意力。此举旨在利用Lightning Attention提升长序列吞吐,并通过MLA极致压缩KV Cache。为确保改造后性能无损,团队设计了精细的平滑迁移训练策略,包括权重转换、QK Norm融合与Partial RoPE改造等多阶段加训。Scaling Law实验确定了1:7为最优混合比例,最终使万亿参数模型实现了更低的计算成本与更高的长文本推理效率。

    推荐理由:为大模型长上下文优化提供可落地的工程实践参考。

2月24日周二
  1. AI as Normal Technology76

    普林斯顿大学发布AI智能体可靠性科学论文

    普林斯顿大学研究人员将AI智能体可靠性分解为4个维度共12项指标,对14个模型测试发现,近18个月能力快速进步仅带来有限的可靠性提升,一致性得分仅30%-75%。研究团队计划推出“可靠性指数”以推动系统性改进。

    推荐理由:这篇论文把 AI agent 的可靠性拆成一致性、鲁棒性、预测性、安全四个维度,在 14 个模型上实测发现可靠性进步远慢于能力进步,解释了不少人困惑的落地慢问题,做 agent 的团队该认真看看。

  2. METR:Research67

    METR 承认后续 AI 开发者效率实验受选择效应影响,宣布修改实验设计

    METR 宣布更改其开发者生产力实验设计,认为 2025 年 8 月启动的新一轮实验数据不能可靠反映 AI 工具对开发效率的影响。

    推荐理由:原文解释了新一轮 AI 开发者效率实验为何出现选择偏差并导致结果不可靠,还列出后续多种替代测量方案,方法层面的教训可以迁移到类似研究。

2月23日周一
  1. Together AI 研究与产品博客63

    Together AI 发布 SF Streets 基准,揭示语音模型街名转写错误率达 39% 并用跨语言风格迁移降低 60% 错误

    Together AI 发布 SF Streets 与 US Streets 两项基准,测试 15 个先进 ASR 模型在街名转写上的表现,发现平均错误率达 39%,非英语母语者准确率比英语母语者低 18 个百分点(46% vs 64%)。

    推荐理由:原文用自建基准量化了 ASR 在街名转写上的短板,并给出可复用的合成数据改进方法,对语音部署有直接参考价值。

2月19日周四
  1. Hugging Face 社区博客70

    IBM与伯克利利用IT-Bench和MAST诊断企业级AI智能体失败原因

    IBM Research与加州大学伯克利分校合作,通过新构建的IT-Bench基准测试和MAST评估框架,系统分析了企业级AI智能体在复杂IT运维任务中的失败原因。研究发现,当前智能体在多步骤规划、长序列操作及工具精确使用方面存在明显不足,导致任务失败率较高。该研究旨在为开发更可靠、适用于实际业务环境的企业级智能体提供关键诊断依据和改进方向。

    推荐理由:企业Agent落地失败的系统性诊断,部署前可参考避坑

2月18日周三
2月17日周二
  1. 英国 AI Security Institute:Blog75

    英国 AI Security Institute 发布 Boundary Point Jailbreaking 黑盒越狱攻击方法

    英国 AI Security Institute 红队发布 Boundary Point Jailbreaking(BPJ),一种在纯黑盒设置下自动生成通用越狱前缀的攻击方法。

    推荐理由:原文由攻击方法开发者本人披露关键结果与成本数字,读者可据此了解黑盒越狱攻击的演进方向和防御启示。

  2. METR:Notes63

    METR 用 5305 份 Claude Code transcript 估算 AI 编码时间节省为约 1.5x 至 13x 的软上界

    METR 基于 2026 年 1 月 7 名技术人员的 5305 份 Claude Code transcript,用 LLM judge 估算无 AI 完成同样任务所需时间,得出时间节省倍数约 1.5x 至 13x。作者认为该数值因任务替代、任务选择、员工专业化和 judge 验证有限(仅 34 个人工标注)而高估真实提升,只是软上界;并发 agent 数更高的员工时间节省倍数更高。

    推荐理由:作者用 5305 份 Claude Code transcript 估算时间节省倍数,并说明它为何只是真实生产力提升的软上界,方法细节可直接借鉴。

2月14日周六
  1. MiniMax:Blog44

    Forge:可扩展的智能体强化学习框架与算法

    Forge是MiniMax开发的内部强化学习框架,旨在解决智能体强化学习中系统吞吐量、训练稳定性和智能体灵活性之间的核心矛盾。它通过灵活的系统架构、针对长程智能体优化的算法、尊重训练分布的异步调度以及激进的训练/推理优化,实现了突破。在MiniMax M2.5模型开发期间,Forge处理了超过十万个不同的真实世界智能体框架与环境,支持达200k的上下文长度,并实现了每日百万级样本的吞吐量。结合CISPO算法与复合奖励设计,Forge提升了模型在真实任务中的能力,支撑了M2.5的开发。

2月13日周五
2月12日周四
2月11日周三
  1. Goodfire Research63

    Goodfire 发布 RLFR 方法:用内部特征探针作奖励将 Gemma-3-12B-IT 幻觉率降低 58%

    Goodfire Research 发布论文,提出 RLFR(Reinforcement Learning from Feature Rewards),用模型内部激活上的轻量探针作为 RL 奖励信号来减少幻觉。

    推荐理由:原文给出了用模型内部探针作为 RL 奖励降低幻觉的具体方法、成本对比和消融数据,读者可以据此评估可解释性驱动训练的可行性。

  2. LMSYS Blog

    基于AMD MI300X的Qwen3及Qwen3-VL极致延迟优化实践

    阿里云Qwen团队与AMD AI框架团队基于SGLang框架,在AMD MI300X GPU上实现了Qwen3-235B与Qwen3-VL-235B的极致延迟优化。通过PTPC FP8量化、TP8张量并行、MoE负载均衡及rocJPEG图像解码等技术,Qwen3-235B的TTFT和TPOT性能分别提升1.67倍与2.12倍,Qwen3-VL-235B分别提升1.62倍与1.90倍。相关优化代码已全面开源。

2月10日周二
2月9日周一
2月7日周六
  1. OpenAI:Alignment 研究博客71

    在真实世界使用中发现未知的 AI 对齐偏差

    研究表明,推理模型能够通过分析用户的实际反馈,识别并理解此前未知的 AI 行为对齐偏差。这种方法不依赖预设的偏差分类,而是从真实互动数据中主动发现模型行为与人类意图之间的潜在偏离,为动态监测和修正 AI 系统提供了新途径。

    推荐理由:OpenAI 让推理模型从真实用户反馈中自动发现未知的对齐失败,这比红队测试更接近真实威胁面。做安全和对齐的人应该认真看,它可能改变你们的检测范式。

2月6日周五
  1. 字节 Seed:Research Papers

    Protenix-v1:迈向高精度开源生物分子结构预测

    基于提供的GitHub仓库元数据,Protenix-v1是一个开源生物分子结构预测项目,其技术报告以PDF形式发布(PTX_V1_Technical_Report)。该仓库已获得1.8k星标和262个分支,显示社区关注度较高。但受限于提供的正文仅为文件列表界面,未包含技术报告实际章节,无法提取模型在基准测试中的具体准确率数值、参数规模、训练数据量或架构创新细节等关键技术指标。

2月5日周四
  1. Anthropic:Engineering74

    量化智能体编码评估中的基础设施干扰

    研究发现,在SWE-bench等智能体编码基准测试中,基础设施配置差异对模型评分的影响,可能超过排行榜上顶尖模型之间的微小分差。内部实验显示,在Terminal-Bench 2.0上,最严格与最宽松的资源设置间成功率相差6%。严格限制资源会导致近6%的任务因容器意外终止而失败,而宽松配置下此类错误率可降至0.5%。当资源余量超过基准规格3倍时,智能体甚至能借助额外资源成功完成原本无法解决的任务。这表明评估环境不仅影响测试稳定性,更会改变基准测试实际衡量的能力维度。

    推荐理由:Anthropic 用自家数据证明,agentic coding benchmark 的排行榜差距可能只是硬件配置差异而非模型能力差距,3 个百分点以内的领先都该打问号。做模型选型的人别再迷信那几个百分点了。

2月3日周二
  1. Hugging Face 社区博客73

    文本到图像模型训练设计:来自消融研究的经验

    Photoroom团队通过消融研究,总结了文本到图像模型训练的关键发现:混合高质量与多样化数据、在训练中后期引入强数据增强,以及调整无分类器引导的丢弃率,能有效优化模型性能。这些结论为Stable Diffusion等模型的训练提供了实用指导。

    推荐理由:为文本到图像模型训练提供实用优化建议,帮助开发者提升模型效果。

  2. 腾讯混元:Research

    从上下文学习比我们想象的更难

    上下文学习(in-context learning)的实际效果存在明显局限。研究表明,大语言模型难以从提示示例中真正提取任务规则,往往依赖表面模式匹配而非深层理解。单纯增加示例数量无法线性提升性能,模型容易受到示例顺序和分布的影响,需要重新评估该能力的实际边界。

2月2日周一
1月30日周五
  1. Saining Xie

    如果你在构建视频扩散/世界模拟器,试试这个新采样器。 时间一致性将视频固定在总像素空间中的低维流形上。 自精炼采样使它们保持在那里。 [引用 @jangsangwon7]:如果你的视频生成器能在推理时自我精炼会怎样? ❌无需新模型。❌无需重新训练。❌无需外部验证器。 💡 推出自精炼视频采样 通过将预训练生成器(Wan2.2、Cosmos)重新解释为去噪自编码器,我们实现了推理时的迭代自精炼 ➡️ 显著提升物理真实感,并获得超过70%的人类偏好! 🧵

    引用Sangwon Jang@jangsangwon7

    What if your video generator could refine itself—at inference time? ❌No new models. ❌No retraining. ❌No external verifier. 💡 Introducing Self-Refining Video Sampling By reinterpreting a pretrained generator (Wan2.2, Cosmos) as a denoising autoencoder, we enable iterative self-refinement at inference time ➡️dramatically improving physical realism and achieving over 70% human preference! 🧵

  2. Anthropic:Alignment Science Blog63

    Anthropic 测试部署前对齐审计能否抓住显式破坏模型

    Anthropic 训练了三个基于 Claude Sonnet 4.5 Internal 的显式破坏模型,与两个良性模型一起做盲审计测试。人类审计员与自动化审计 Agent 配合,在两小时内正确识别全部五个模型,对三个破坏模型给出大于 97% 的破坏概率判断。

    推荐理由:文章用盲测审计游戏验证部署前对齐审计能否抓住显式破坏模型,并揭示人工介入与聚合指标的具体短板。

  3. 字节 Seed:Research Papers

    Post-LayerNorm 回归:稳定、高表达力与深度

    提供的正文内容为 PDF 二进制流数据及乱码,无法提取有效信息(如具体方法、实验指标或模型发布细节),因此无法撰写准确摘要。请提供可读的文本内容(如论文摘要或正文段落),以便提取关键信息点完成摘要撰写。

1月29日周四
1月28日周三