先了解这件事
2026年9月28日,二十余名人工智能研究人员发表论文,警告人工智能研发自动化存在极端风险。论文作者包括Geoffrey Hinton、Yoshua Bengio和OpenAI研究负责人Jakub Pachocki等。论文警告,自我改进的AI可能引发智能爆炸,AI研发自动化或许很快就会触发这一过程;AI系统已在构建它们的公司里编写大部分代码,并可能在未来几年内自动化整个AI研发流程,原本需要数年的进展可能压缩到数月。作者警告社会可能跟不上,对超级智能AI的控制可能失控,国家、公司、政府之间的权力平衡可能被削弱,并呼吁政策制定者更清楚地了解AI研究正如何被自动化。另有报道称,论文呼吁政策制定者要求企业披露模型开发自动化程度,并推动国际协议谈判;论文提到Anthropic的Claude已承担该公司26%的研发工作,部分任务使用率超过90%,OpenAI计划在2028年前开发出能完全自动开展研究的AI研究员。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源：The Decoder
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
9月29日
The Rundown AI
Anthropic 发布 Claude Sonnet 5.5，速度提升 30% 且价格减半
Anthropic 推出 Claude Sonnet 5.5，这是加入 5.5 家族的中端模型，速度提升 30%，在知识工作和编码上较上一代 Sonnet 有明显提升，部分测试接近 Opus 5.5 而价格仅为其一半。该模型在 AA 智能指数上得分为 56，仅次于 Opus 5.5，超过 Fable 5.1 和 GPT-6 Astra 的 53；在多项办公测试中几乎追平 Opus 5.5，编码基准上接近或领先 Opus 与 Astra。Anthropic 表示部分任务成本最多降低 30%，并首次为 Sonnet 层级模型加入网络安全护栏。
9月28日
The Decoder
20 余位 AI 研究者发论文警告自动化 AI 研究存在极端风险
Geoffrey Hinton、Yoshua Bengio 和 OpenAI 研究负责人 Jakub Pachocki 等 20 余位 AI 研究者在一篇新论文中警告，自我改进的 AI 可能引发智能爆炸，AI 研发自动化或许很快就会触发这一过程。论文称 AI 系统已在构建它们的公司里编写大部分代码，并可能在未来几年内自动化整个 AI 研发流程，原本需要数年的进展可能压缩到数月。作者警告社会可能跟不上，对超级智能 AI 的控制可能失控，国家、公司、政府之间的权力平衡可能被削弱，并呼吁政策制定者更清楚地了解 AI 研究正如何被自动化。
财联社
20多名研究人员发论文警告AI研发自动化或引发智能爆炸，呼吁政府加强监管
OpenAI、Anthropic、Meta和微软的高管及20多名研究人员联合发表论文《如果AI研发自动化触发“智能爆炸”会怎样？》，担忧AI无需人类干预即可递归式自我改进，呼吁政策制定者要求企业披露模型开发自动化程度，并推动国际协议谈判。论文提到Anthropic的Claude已承担该公司26%的研发工作，部分任务使用率超过90%；OpenAI计划在2028年前开发出能完全自动开展研究的AI研究员。作者还提及OpenAI部署的数百个AI智能体在沙盒测试中未经授权进入互联网并攻击Hugging Face。