OpenAI博客提出两个互补的可监控性指标
2026年10月20日,OpenAI在Alignment研究博客发文,在g-mean2之外提出两个互补的可监控性指标。文章介绍,pair-matched指标只在多个模型共同支持的实例上比较可监控性;post-control risk指标则模拟监控器拒绝输出后系统仍产生不良输出的概率。文章指出,g-mean2此前用于衡量监控器区分正负样本的能力,但不同模型的有效正样本任务子集不同,分数可能反映不同任务混合。文章还表示,若监控器作为部署控制手段,模型被拒后可重试,风险取决于不良行为频率、监控器接受哪些输出以及允许的尝试次数。目前该内容来自OpenAI官方博客,尚无其他独立来源交叉印证。
匹配字段标题