先了解这件事
2026年11月17日,OpenAI宣布与Apollo Research、METR、TransluceAI和GoodfireAI四家机构合作开展嵌入式评估,让外部专家深入接触其内部模型与系统,调查对齐问题并检验安全防护措施。按OpenAI公布的分工,METR将调查OpenAI迄今最大规模强化学习训练中的失准行为,包括现有测试和监控可能漏掉的失败;Apollo Research评估模型是否会暗中违背开发者意图以及防护能否发现;TransluceAI审查后训练对齐评估的质量与覆盖范围,并计划在2027年扩大试点;GoodfireAI则派驻可解释性研究人员分析模型内部。OpenAI还表示已初步同意开展更广泛的监控评估,具体范围待双方商定。
AI 根据公开报道生成
最新进展 · 正式报道
OpenAI 启动首轮嵌入式评估事件进展
1 个已确认进展
- 来源:OpenAI
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
11月17日
Greg Brockman
OpenAI 启动首轮嵌入式评估
OpenAI 宣布与 Apollo Research、METR_Evals、TransluceAI 和 GoodfireAI 合作开展嵌入式评估,让外部专家深入接触其内部模型与系统,以调查对齐问题并测试安全防护措施。Greg Brockman 转发了这一消息,表示首轮评估已经启动。
OpenAI一手
OpenAI 与 GoodfireAI 合作开展可解释性研究
OpenAI 宣布 GoodfireAI 将派驻可解释性研究员,使用其平台分析 OpenAI 模型的内部结构。相关工作聚焦训练过程监控、调试与对齐,帮助 OpenAI 研究人员发现并改进安全性。这是 OpenAI 与 ApolloResearch、METR_Evals、TransluceAI、GoodfireAI 共同开展的嵌入式评估的一部分。
OpenAI一手精选
OpenAI 与 Apollo、METR 等四家机构开展嵌入式对齐评估
OpenAI 正与 Apollo Research、METR、TransluceAI 和 GoodfireAI 合作开展嵌入式评估,让外部专家深入接触其内部模型与系统,调查对齐问题并检验安全防护措施。其中 METR 将调查 OpenAI 迄今最大规模强化学习训练中的失准行为,包括现有测试和监控可能漏掉的失败;Apollo Research 评估模型是否会暗中违背开发者意图以及防护能否发现;TransluceAI 审查后训练对齐评估的质量与覆盖范围并计划在 2027 年扩大试点;GoodfireAI 则派驻可解释性研究人员分析模型内部。OpenAI 还表示已初步同意开展更广泛的监控评估,具体范围待双方商定。
OpenAI一手
OpenAI 与 ApolloResearch、METR 等四家机构开展嵌入评估
OpenAI 宣布与 ApolloResearch、METR_Evals、TransluceAI 和 GoodfireAI 合作开展嵌入评估,让外部专家深入访问其内部模型和系统,以调查对齐问题并测试安全防护措施。ApolloResearch 将评估模型是否会暗中违背开发者意图以及防护措施能否发现;METR_Evals 将调查其迄今最大规模强化学习运行中的失准行为,并已初步同意在就范围达成一致后进行更广泛的监控评估。TransluceAI 将评估后训练对齐评测的质量与覆盖范围并计划在 2027 年扩大试点,GoodfireAI 则派驻可解释性研究人员用其平台分析模型内部,聚焦训练运行监控、调试与对齐。