OpenAI 邀请 METR 与 Redwood Research 嵌入评估内部监控系统
This summer, we invited METR and Redwood Research to pilot an embedded evaluation of our internal monitoring system, providing deep access to our infrastructure
OpenAI 称今年夏天邀请 METR 和 Redwood Research 对其内部监控系统开展为期三周的嵌入式评估，并向对方开放了基础设施的深度访问权限。评估发现帮助其在扩展该系统时加强了防护措施，也将影响未来与 METR 及其他第三方评估方的研究合作。METR 表示，两名来自 METR 和 Redwood Research 的员工在 OpenAI 办公场所驻场三周，评估的是 OpenAI 用于监控内部智能体是否存在失准行为的系统，相关简报已公开。
推荐理由
AI 评分 51
OpenAI 首次公开第三方嵌入评估的内部监控流程，可了解外部机构如何接触其基础设施并参与对齐审查。
主题
查看原帖今年夏天，来自METR和Redwood Research的两名员工在OpenAI的办公场所驻场三周，参与了一项嵌入式评估试点。该团队评估了OpenAI用于监控内部智能体是否存在失准行为的系统。关于他们工作的简要报告现已公开。
查看原文
Two employees from METR and Redwood Research worked on premises at OpenAI for three weeks this summer in an embedded assessment pilot. This team evaluated the systems OpenAI was using to monitor for misalignment from internal agents. A brief write-up of their work is now public.
正文 · AI 翻译
今年夏天，我们邀请 METR 和 Redwood Research 对我们的内部监控系统进行嵌入式评估试点，在为期三周的时间里向他们提供了对我们基础设施的深度访问权限。
他们的发现帮助我们在扩展该系统时加强了防护措施，也将有助于塑造未来与 METR 及其他第三方评估方的研究合作。