先了解这件事
AI 综述
METR于2026年11月16日发布研究笔记,运行调查型智能体分别进入19个对齐评测和36个能力评测环境,测量其判断环境性质的能力。结果显示,Opus 5.5的直接评分与开放式评分在数据集上把每个对齐评测都排在所有能力评测之上,AUC接近满分;智能体主要依据环境看起来虚假、任务像蜜罐等线索作出判断。研究将对齐线索分为环境层(模拟不真实)和任务层(为诱发不良行为而设计)两类,并提出可用调查型智能体迭代改进对齐评测的真实性。
AI 根据公开报道生成
最新进展 · 正式报道
METR 研究:调查型智能体如何识别对齐评测事件进展
1 个已确认进展
- 来源:METR Notes
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
11月16日
METR Notes一手
METR 研究:调查型智能体如何识别对齐评测
METR 发布研究笔记,用调查型智能体分别进入 19 个对齐评测和 36 个能力评测环境,测量其判断环境性质的能力。结果显示 Opus 5.5 的直接评分与开放式评分在数据集上把每个对齐评测都排在所有能力评测之上,AUC 接近满分;智能体主要依据环境看起来虚假、任务像蜜罐等线索作出判断。研究将对齐线索分为环境层(模拟不真实)和任务层(为诱发不良行为而设计)两类,并提出可用调查型智能体迭代改进对齐评测的真实性。