AI News

OpenAI 与 GoodfireAI 合作开展可解释性研究

OpenAI更新于 11月17日 00:13

@GoodfireAI will embed interpretability researchers to use their platform to analyze our models’ internals.

AI 导读

OpenAI 宣布 GoodfireAI 将派驻可解释性研究员,使用其平台分析 OpenAI 模型的内部结构。相关工作聚焦训练过程监控、调试与对齐,帮助 OpenAI 研究人员发现并改进安全性。这是 OpenAI 与 ApolloResearch、METR_Evals、TransluceAI、GoodfireAI 共同开展的嵌入式评估的一部分。

正文 · AI 翻译

@GoodfireAI 将派驻可解释性研究员,使用其平台分析我们模型的内部结构。

他们的工作聚焦于训练过程监控、调试与对齐,帮助我们的研究人员发现问题并做出安全性改进。

来源

OpenAI