AI 热点

OpenAI 公布 AI 改变内部研究的新数据

OpenAI更新于 11月19日 09:44

We're sharing new data on how AI is changing research at OpenAI.

AI 导读

OpenAI 公布新数据称,研究人员对 AI 的使用持续呈指数增长,智能体正在完成耗时更长的任务,但人工参与仍是研究的核心。研究人员用于安全与对齐的时间也在增加,相关人工投入的增速超过其他任何单一研究领域。报告主张 AI 实验室跟踪并公开报告递归式自我改进(RSI)指标,以支持更强 AI 的治理。

推荐理由

AI 评分 64

报告同时呈现AI使用增长、人工参与和安全投入变化,为讨论研究加速的治理指标提供了具体依据。

主题

标签

正文 · AI 翻译

我们正在分享有关 AI 如何改变 OpenAI 研究工作的新数据。

我们发现,研究人员对 AI 的使用继续呈指数增长,智能体正在完成耗时更长的任务,但人工参与仍是研究的核心。研究人员也在安全与对齐方面投入更多时间,这些领域的人工投入增速超过其他任何单一研究领域。

本报告旨在提高研究加速方面的透明度,并为治理能力日益增强的 AI 提供参考。我们认为,应要求 AI 实验室跟踪并公开报告递归式自我改进(RSI)指标,即 AI 加速未来 AI 系统开发的过程。

我们希望,这份扩展后的报告将有助于维持并推进整个行业共同的衡量规范。

https://t.co/xyGPcCkPCK

来源

OpenAI