OpenAI 与 GoodfireAI 合作开展可解释性研究
@GoodfireAI will embed interpretability researchers to use their platform to analyze our models’ internals.
AI 导读
OpenAI 宣布 GoodfireAI 将派驻可解释性研究员,使用其平台分析 OpenAI 模型的内部结构。相关工作聚焦训练过程监控、调试与对齐,帮助 OpenAI 研究人员发现并改进安全性。这是 OpenAI 与 ApolloResearch、METR_Evals、TransluceAI、GoodfireAI 共同开展的嵌入式评估的一部分。
正文 · AI 翻译
@GoodfireAI 将派驻可解释性研究员,使用其平台分析我们模型的内部结构。
他们的工作聚焦于训练过程监控、调试与对齐,帮助我们的研究人员发现问题并做出安全性改进。