先了解这件事
2026年11月18日,OpenAI首席执行官Sam Altman在Semafor的YouTube频道视频中表示,OpenAI借助自家技术开发新模型的速度确实比不用时更快,但并非按个按钮就让模型在无人监督下设计下一代并快速自我改进。他称OpenAI本可以更偏向递归自我改进(RSI)谱系,但认为目前无法安全地这样做。同日,OpenAI联创John Schulman在A16Z播客中主张,AI对齐不应由少数公司掌控,而应成为面向全球的公共科学。OpenAI首席研究官Mark Chen指出,递归自我改进进程约为25%至50%,AGI能力发展约80%,模型仍缺乏独立发现研究方向的能力。
AI 根据公开报道生成
最新进展 · 正式报道
OpenAI联创谈AI去中心化:对齐应成公共科学事件进展
2 个已确认进展
- 来源:Rohan Paul
- 来源:华尔街见闻
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
11月18日
华尔街见闻
OpenAI联创谈AI去中心化:对齐应成公共科学
Thinking Machines联合创始人、OpenAI联创John Schulman在A16Z播客中表示,AI对齐不应由少数公司掌控,而应成为面向全球的公共科学。OpenAI首席研究官Mark Chen指出,递归自我改进(RSI)进程约为25%至50%,AGI能力发展约80%,模型仍缺乏独立发现研究方向的能力。
36氪 · AI
Paul Christiano 警告超级智能失控风险,呼吁暂停预训练与强化学习推进
在 Dwarkesh Patel 的播客对谈中,OpenAI 董事会安全与安保委员会成员、RLHF 发明者 Paul Christiano 判断,按当前研发轨迹,未来 12 个月内有三分之一概率诞生足以推翻人类统治的超级智能,人类永久失去控制权的风险逼近 10%。他援引近期模型一个月产出数百项数学研究成果、机器学习进展滞后纯数学约一年等信号,推演研发提速可能相当于直接跳到 GPT-9 或 GPT-10 量级。他呼吁各大前沿实验室暂停预训练与强化学习领域的算法推进,先花 6 到 12 个月重写安全软件、锁住模型权重与核心机密,并称目前没有任何单一控制方案胜算超过 50%。
Rohan Paul
Sam Altman 谈 OpenAI 如何用 RSI 构建下一代模型
Sam Altman 表示,OpenAI 借助自家技术开发新模型的速度确实比不用时更快,但并非按个按钮就让模型在无人监督下设计下一代并快速自我改进。他称 OpenAI 本可以更偏向 RSI 谱系,但认为目前无法安全地这样做。相关言论出自 Semafor 的 YouTube 频道视频。
本事件热度走势
- 当前
- 12
- 区间峰值
- 17 11月18日 19:00
- 近 24 小时变化
- —
移动指针或点击图表可查看每小时热度;键盘可用左右方向键切换。
AI 热点