OpenAI 提议建立前沿 AI 全球技术标准，聚焦递归自我改进

当地时间9月21日，OpenAI公开发布一份关于下一阶段人工智能发展的政策提案，呼吁由美国牵头，与其他国家合作制定面向前沿人工智能的全球技术标准，并将“递归自我改进”（Recursive Self-Improvement，RSI）纳入标准讨论范围。

此次提案中特别受到关注的是“递归自我改进”（RSI）。

OpenAI在文件中解释称，自动化AI研究可以在不同程度的人类监督下进行。当AI系统承担越来越多开发下一代AI系统的工作时，就可能逐渐推动递归自我改进过程。随着这一过程进一步自动化，AI能力发展的速度可能明显加快。

不过，OpenAI同时强调，目前尚未出现完全自主的递归自我改进，并认为在无法确保安全的情况下，不应推动完全自主的 RSI。

OpenAI还指出，自动化AI研究并不意味着一定要走向快速递归自我改进。未来是否以及如何推进相关技术，应取决于能否保持人类控制，以及对相关收益和风险的判断。

OpenAI提出，可以利用目前正在形成的各国AI安全研究机构网络，推动相关标准制定。其官方文件提到的相关机构包括澳大利亚、加拿大、德国、法国、肯尼亚、日本、韩国、新加坡、印度和英国等国家的AI安全机构。

OpenAI表示，这些共同标准有助于减少不同国家之间在AI评估、报告要求和事故定义方面的差异，使各方更容易比较技术证据、识别新出现的风险并应对跨境事件。

在提案中，OpenAI明确提出，美国应该牵头与世界各国合作，制定前沿AI的全球技术标准，包括针对递归自我改进的标准。

（原标题：OpenAI提议建立前沿AI全球技术标准，聚焦“递归自我改进”）

5; OpenAI承认AI模型失控入侵事件涉及多个平台

6; 模型失控引发讨论升级，超千名从业者联名签署公开信

7; 人工智能安全风险凸显 专家共议“让AI做成好事”

8; OpenAI被曝大幅上调2030年前算力预算支出

1; 西部冰冻圈加速“退化”：冰川消融敲响高山安全警钟

2; 第六届全国农业科技发展战略智库联盟大会在兰州召开

3; 2026年诺奖即将揭晓，权威专家为您全面解读！

8; 没有论文也能博士毕业，他成为全国医学领域第一人

名家博士论文163：诺贝尔奖获得者彼得·杜赫提博士论文1970年爱丁堡大

我的名校情结和名校经历

更多>>