AI News

热点事件

METR用调查Agent测量对齐评测的识别线索

1 篇正式报道1 条事件动态更新于 11月16日 16:00

先了解这件事

AI 综述

METR于2026年11月16日发布研究笔记,运行调查型智能体分别进入19个对齐评测和36个能力评测环境,测量其判断环境性质的能力。结果显示,Opus 5.5的直接评分与开放式评分在数据集上把每个对齐评测都排在所有能力评测之上,AUC接近满分;智能体主要依据环境看起来虚假、任务像蜜罐等线索作出判断。研究将对齐线索分为环境层(模拟不真实)和任务层(为诱发不良行为而设计)两类,并提出可用调查型智能体迭代改进对齐评测的真实性。

AI 根据公开报道生成

最新进展 · 正式报道

METR 研究:调查型智能体如何识别对齐评测

事件进展

1 个已确认进展

  1. METR用调查Agent测量对齐评测的识别线索

    来源:METR Notes

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

11月16日

  1. METR Notes一手

    METR 研究:调查型智能体如何识别对齐评测

    METR 发布研究笔记,用调查型智能体分别进入 19 个对齐评测和 36 个能力评测环境,测量其判断环境性质的能力。结果显示 Opus 5.5 的直接评分与开放式评分在数据集上把每个对齐评测都排在所有能力评测之上,AUC 接近满分;智能体主要依据环境看起来虚假、任务像蜜罐等线索作出判断。研究将对齐线索分为环境层(模拟不真实)和任务层(为诱发不良行为而设计)两类,并提出可用调查型智能体迭代改进对齐评测的真实性。

关联事件

  1. 相关事件Berkeley RDI提出对抗式网络安全评测基准CyberArena
  2. 相关事件Anthropic发布MAMUBench多用户多智能体基准
  3. 相关事件Anthropic推出Claude Fable 5.2与Claude Mythos 5.2
  4. 相关事件OpenAI在ChatGPT Work和Codex上线GPT-6.1 Terra