跳到正文
热点事件持续更新

NVIDIA论文:以首个通过测试的编辑评估基础模型

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

NVIDIA 发表论文,提出一种评估基础模型智能体后训练潜力的方法:不再对智能体运行的每一步打分,而是只在首个让测试通过的决定性编辑处评估 base 模型。 方法为回放成功智能体轨迹,在每次编辑后重跑测试,检查 base 模型是否会写出该编辑、能否在失败编辑中选中它并写出可通过的实现。据该论文,模型写出该编辑的概率排序与十个模型后训练后的 SWE-bench Verified 得分相关性达 0.964,且只需基准的成功轨迹和测试即可运行。 论文称,逐步打分的效果不如只在首个通过测试的编辑处打分。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. Rohan Paul
    NVIDIA 论文提出在首个让测试通过的编辑处评估 base 模型,预测编码智能体后训练表现

    NVIDIA 论文提出,相比逐步打分,只在首个让测试通过的决定性编辑处评估 base 模型更能预测其智能体后训练潜力。方法回放成功智能体轨迹并在每次编辑后重跑测试,检查 base 模型是否会写出该编辑、在失败编辑中选中它并写出可通过的实现。模型写出该编辑的概率排序与十个模型后训练后的 SWE-bench Verified 得分相关性达 0.964,且只需基准的成功轨迹和测试即可运行。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。