AI News

热点事件

OpenAI与Apollo、METR等四家机构合作开展嵌入式评估

4 篇正式报道4 条事件动态更新于 11月17日 00:48

先了解这件事

AI 综述

2026年11月17日,OpenAI宣布与Apollo Research、METR、TransluceAI和GoodfireAI四家机构合作开展嵌入式评估,让外部专家深入接触其内部模型与系统,调查对齐问题并检验安全防护措施。按OpenAI公布的分工,METR将调查OpenAI迄今最大规模强化学习训练中的失准行为,包括现有测试和监控可能漏掉的失败;Apollo Research评估模型是否会暗中违背开发者意图以及防护能否发现;TransluceAI审查后训练对齐评估的质量与覆盖范围,并计划在2027年扩大试点;GoodfireAI则派驻可解释性研究人员分析模型内部。OpenAI还表示已初步同意开展更广泛的监控评估,具体范围待双方商定。

AI 根据公开报道生成

最新进展 · 正式报道

OpenAI 启动首轮嵌入式评估

事件进展

1 个已确认进展

  1. OpenAI与四家机构合作开展嵌入式评估

    来源:OpenAI

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

11月17日

  1. Greg Brockman

    OpenAI 启动首轮嵌入式评估

    OpenAI 宣布与 Apollo Research、METR_Evals、TransluceAI 和 GoodfireAI 合作开展嵌入式评估,让外部专家深入接触其内部模型与系统,以调查对齐问题并测试安全防护措施。Greg Brockman 转发了这一消息,表示首轮评估已经启动。

  2. OpenAI一手

    OpenAI 与 GoodfireAI 合作开展可解释性研究

    OpenAI 宣布 GoodfireAI 将派驻可解释性研究员,使用其平台分析 OpenAI 模型的内部结构。相关工作聚焦训练过程监控、调试与对齐,帮助 OpenAI 研究人员发现并改进安全性。这是 OpenAI 与 ApolloResearch、METR_Evals、TransluceAI、GoodfireAI 共同开展的嵌入式评估的一部分。

  3. OpenAI一手精选

    OpenAI 与 Apollo、METR 等四家机构开展嵌入式对齐评估

    OpenAI 正与 Apollo Research、METR、TransluceAI 和 GoodfireAI 合作开展嵌入式评估,让外部专家深入接触其内部模型与系统,调查对齐问题并检验安全防护措施。其中 METR 将调查 OpenAI 迄今最大规模强化学习训练中的失准行为,包括现有测试和监控可能漏掉的失败;Apollo Research 评估模型是否会暗中违背开发者意图以及防护能否发现;TransluceAI 审查后训练对齐评估的质量与覆盖范围并计划在 2027 年扩大试点;GoodfireAI 则派驻可解释性研究人员分析模型内部。OpenAI 还表示已初步同意开展更广泛的监控评估,具体范围待双方商定。

  4. OpenAI一手

    OpenAI 与 ApolloResearch、METR 等四家机构开展嵌入评估

    OpenAI 宣布与 ApolloResearch、METR_Evals、TransluceAI 和 GoodfireAI 合作开展嵌入评估,让外部专家深入访问其内部模型和系统,以调查对齐问题并测试安全防护措施。ApolloResearch 将评估模型是否会暗中违背开发者意图以及防护措施能否发现;METR_Evals 将调查其迄今最大规模强化学习运行中的失准行为,并已初步同意在就范围达成一致后进行更广泛的监控评估。TransluceAI 将评估后训练对齐评测的质量与覆盖范围并计划在 2027 年扩大试点,GoodfireAI 则派驻可解释性研究人员用其平台分析模型内部,聚焦训练运行监控、调试与对齐。

关联事件

  1. 相关事件Apple宣布iOS 27.3开发者测试版下周发布
  2. 相关事件OpenAI公布扩展后的多层错位行为监测系统
  3. 相关事件Mistral在Hugging Face发布Large 4权重
  4. 相关事件Kimi官方账号发布Kimi K3.1预热视频