←事件详情

热点事件

Nvidia论文提出按首次通过测试的编辑评估基座模型

1 篇正式报道1 条事件动态更新于 10月12日 23:39

先了解这件事

AI 综述

2026年10月12日,Nvidia发表一篇新论文,提出按首次通过测试的编辑来评估基座模型。论文发现,按智能体运行的每一步给基座模型打分,效果不如只按首次让测试通过的编辑打分。方法上,研究者回放强智能体的成功运行轨迹,在每次编辑后重跑测试,找到第一个让测试通过的编辑,再检验基座模型是否偏好该编辑、能否在失败编辑中选中它并写出可通过的编辑。基座模型写出该编辑的可能性对10个模型的排名,与它们后训练后的SWE-bench Verified分数一致,相关性为0.964。作者建议在为智能体任务选择待后训练的基座模型时先做这项检查,它只需要某个基准的成功智能体运行轨迹和测试。

AI 根据公开报道生成

最新进展 · 正式报道

Nvidia 新论文:按首次通过测试的编辑给基座模型打分更有效

事件进展

1 个已确认进展

  1. Nvidia论文提出按首次通过测试的编辑评估基座模型

    来源:Rohan Paul

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

10月12日

  1. Rohan Paul

    Nvidia 新论文:按首次通过测试的编辑给基座模型打分更有效

    Nvidia 一篇新论文发现,按智能体运行的每一步给基座模型打分,效果不如只按首次让测试通过的编辑打分。方法上,他们回放强智能体的成功运行轨迹,在每次编辑后重跑测试,找到第一个让测试通过的编辑,再检验基座模型是否偏好该编辑、能否在失败编辑中选中它并写出可通过的编辑。基座模型写出该编辑的可能性对 10 个模型的排名,与它们后训练后的 SWE-bench Verified 分数一致,相关性为 0.964。作者建议在为智能体任务选择待后训练的基座模型时先做这项检查,它只需要某个基准的成功智能体运行轨迹和测试。

关联事件

  1. 相关事件Rohan Paul提出自改进智能体harness编辑准入规则
  2. 相关事件Nvidia发布Nemotron 3.5 Super VL与Bolt模型
  3. 相关事件Meta论文提出用可塑性指标评测自改进Agent
  4. 相关事件Amazon论文提出直接检查Agent记忆存储事实