先了解这件事
AI 综述
2026年10月20日,OpenAI在Alignment研究博客发文,在g-mean2之外提出两个互补的可监控性指标。文章介绍,pair-matched指标只在多个模型共同支持的实例上比较可监控性;post-control risk指标则模拟监控器拒绝输出后系统仍产生不良输出的概率。文章指出,g-mean2此前用于衡量监控器区分正负样本的能力,但不同模型的有效正样本任务子集不同,分数可能反映不同任务混合。文章还表示,若监控器作为部署控制手段,模型被拒后可重试,风险取决于不良行为频率、监控器接受哪些输出以及允许的尝试次数。目前该内容来自OpenAI官方博客,尚无其他独立来源交叉印证。
AI 根据公开报道生成
最新进展 · 正式报道
OpenAI 提出 g-mean² 之外的可监控性互补指标事件进展
1 个已确认进展
- 来源：OpenAI：Alignment 研究博客
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月20日
OpenAI：Alignment 研究博客一手
OpenAI 提出 g-mean² 之外的可监控性互补指标
OpenAI 在 g-mean² 之外提出两个互补指标：pair-matched 指标只在多个模型共同支持的实例上比较可监控性，post-control risk 指标则模拟用监控器拒绝输出后系统仍产生不良输出的概率。g-mean² 此前用于衡量监控器区分正负样本的能力，但不同模型的有效正样本任务子集不同，分数可能反映不同任务混合。文章指出，若监控器作为部署控制手段，模型被拒后可重试，风险取决于不良行为频率、监控器接受哪些输出以及允许的尝试次数。