AI 热点

热点事件 持续更新

Sam Altman谈OpenAI用RSI构建下一代模型

3 篇正式报道3 条事件动态更新于 11月18日 18:07

先了解这件事

AI 综述

2026年11月18日,OpenAI首席执行官Sam Altman在Semafor的YouTube频道视频中表示,OpenAI借助自家技术开发新模型的速度确实比不用时更快,但并非按个按钮就让模型在无人监督下设计下一代并快速自我改进。他称OpenAI本可以更偏向递归自我改进(RSI)谱系,但认为目前无法安全地这样做。同日,OpenAI联创John Schulman在A16Z播客中主张,AI对齐不应由少数公司掌控,而应成为面向全球的公共科学。OpenAI首席研究官Mark Chen指出,递归自我改进进程约为25%至50%,AGI能力发展约80%,模型仍缺乏独立发现研究方向的能力。

AI 根据公开报道生成

最新进展 · 正式报道

OpenAI联创谈AI去中心化:对齐应成公共科学

事件进展

2 个已确认进展

  1. Sam Altman谈OpenAI用RSI构建下一代模型

    来源:Rohan Paul
  2. John Schulman主张AI对齐应成为公共科学

    来源:华尔街见闻

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

11月18日

  1. 华尔街见闻

    OpenAI联创谈AI去中心化:对齐应成公共科学

    Thinking Machines联合创始人、OpenAI联创John Schulman在A16Z播客中表示,AI对齐不应由少数公司掌控,而应成为面向全球的公共科学。OpenAI首席研究官Mark Chen指出,递归自我改进(RSI)进程约为25%至50%,AGI能力发展约80%,模型仍缺乏独立发现研究方向的能力。

  2. 36氪 · AI

    Paul Christiano 警告超级智能失控风险,呼吁暂停预训练与强化学习推进

    在 Dwarkesh Patel 的播客对谈中,OpenAI 董事会安全与安保委员会成员、RLHF 发明者 Paul Christiano 判断,按当前研发轨迹,未来 12 个月内有三分之一概率诞生足以推翻人类统治的超级智能,人类永久失去控制权的风险逼近 10%。他援引近期模型一个月产出数百项数学研究成果、机器学习进展滞后纯数学约一年等信号,推演研发提速可能相当于直接跳到 GPT-9 或 GPT-10 量级。他呼吁各大前沿实验室暂停预训练与强化学习领域的算法推进,先花 6 到 12 个月重写安全软件、锁住模型权重与核心机密,并称目前没有任何单一控制方案胜算超过 50%。

  3. Rohan Paul

    Sam Altman 谈 OpenAI 如何用 RSI 构建下一代模型

    Sam Altman 表示,OpenAI 借助自家技术开发新模型的速度确实比不用时更快,但并非按个按钮就让模型在无人监督下设计下一代并快速自我改进。他称 OpenAI 本可以更偏向 RSI 谱系,但认为目前无法安全地这样做。相关言论出自 Semafor 的 YouTube 频道视频。

本事件热度走势

当前
12
区间峰值
17 11月18日 19:00
近 24 小时变化
—

移动指针或点击图表可查看每小时热度;键盘可用左右方向键切换。

关联事件

  1. 相关事件NVIDIA公布2027财年Q3业绩,黄仁勋不回归CEO
  2. 相关事件OpenAI发布GPT-6.2 Astra与Sol,ARC Prize公布满分成绩
  3. 相关事件OpenAI与Apollo Research开展嵌入评估
  4. 相关事件TestingCatalog称黄仁勋已辞去NVIDIA CEO职务