OpenAI 启动首轮嵌入式评估
launching our first round of embedded assessments:
OpenAI 宣布与 Apollo Research、METR_Evals、TransluceAI 和 GoodfireAI 合作开展嵌入式评估,让外部专家深入接触其内部模型与系统,以调查对齐问题并测试安全防护措施。Greg Brockman 转发了这一消息,表示首轮评估已经启动。
查看原帖我们正与 @ApolloResearch、@METR_Evals、@TransluceAI 和 @GoodfireAI 合作开展嵌入式评估:让外部专家深入接触我们的内部模型和系统,以调查对齐问题并测试我们的安全防护措施。 这些评估建立在我们持续进行的对齐与安全研究基础之上,为外界独立审视我们如何识别和管理系统中的风险提供了机会。 https://t.co/SNAAG0uHmp
查看原文
We’re working with @ApolloResearch, @METR_Evals, @TransluceAI, and @GoodfireAI on embedded assessments: giving outside experts deep access to our internal models and systems to investigate alignment and test our safeguards. These assessments build on our ongoing alignment and safety research, bringing independent scrutiny to how we identify and manage risks in our systems. https://t.co/SNAAG0uHmp
正文 · AI 翻译
启动我们的首轮嵌入式评估: