AI News

GPT-6.2 Delayed for Weeks Due to Safety Alignment Issues, OpenAI Accused of Disrupted Release Cadence

36Kr · AIUpdated Nov 16 21:10

English text is being prepared.

AI summary

Leaks claim that OpenAI's GPT-6.2 has been delayed for several weeks due to safety and alignment issues, with GPT-6.5 also affected; the core challenge is how to turn pre-training results of over 10 trillion parameters into a product usable by the public. Previously, GPT-6.1 Astra, originally scheduled for an October release, was also canceled due to safety and alignment standards not being met. OpenAI officially stated that a boundary-crossing incident on September 20 prompted the company to pause training and evaluation of some frontier models. These claims currently come from community leaks, and OpenAI has not yet officially confirmed them.

Body

OpenAI也终于活成了2022年谷歌的样子:

预告和承诺一波接一波,新模型却迟迟不见踪影,GPT-6.2更是一拖再拖。

而背后的核心原因,又是“安全”。

一则流传甚广的“已删”贴文中,OpenAI工程师Joe爆料:

OpenAI已经成了全世界最把安全当回事的公司之一。OpenAI现在是一家安全公司。

那意思就是,在OpenAI,安全焦虑已经被排到了首位,发布新模型反而成了次要任务。

该说不说,这多少有点谷歌味了。

(2022年的谷歌,手握领先技术,却因为安全和品牌声誉顾虑迟迟不敢发布产品,眼睁睁看着OpenAI抢走了生成式AI的先发优势。)

而就在刚刚,AI爆料博主Token Gremlin又给出了更具体的说法:OpenAI的新一代模型正因安全与对齐问题推迟发布,延期已经持续数周。

而且,不只是按发布顺序接棒的GPT-6.2,他还同时点名了GPT-6.5,并指出OpenAI正面临一个棘手的问题:

如何把超过10万亿参数的预训练成果,变成公众真正能用上的产品。

目前,这一爆料已经引发社区热议,相关话题也登上了推特热榜。

说起来,这事之所以值得关注,是因为早在11月初,社区里就陆续有人声称,自己已经被灰度到了GPT-6.2。

就连The Information也曾在11月4号透露,OpenAI的新Sol、Astra和cyber模型最快可能在当周五,也就是11月6日推出。

结果,眼瞅着半个月过去了,不仅新Astra还没等到,其他型号也是一鸽再鸽。

反观好兄弟Anthropic,倒是在11月9号接连发布Claude Fable 5.2和Mythos 5.2~

难不成,OpenAI真就在安全问题上画地为牢了,厉娜!

还是说。。。奥特曼准备等到19日A社上市,再找机会狙击一手?

GPT-6.2还在路上

按照Token Gremlin最新的说法,奥特曼送给达里奥的上市大礼包,恐怕要因为安全对齐问题而延期了。

除了延期数周,他还给出了一个更悲观的判断:这些问题短时间内很难得到解决,模型发布节奏也难以迅速恢复。

即使OpenAI近期推出GPT-6.2,也可能不得不带着大量防护限制上线,其他版本则继续往后排。

但有意思的是,就在一天以前,Gremlin还分享了一个使用GPT-6.2 Astra制作游戏的案例。

我们不知道是什么消息让Gremlin突然横跳,但也就在一周多以前,他对OpenAI新模型其实乐观得多。

11月7日,Token Gremlin称,GPT-6.2 Astra和Sol未能如期待中推出,是因为最后关头发现了严重的安全与对齐问题,需要额外修复。

当时他的预期是,再花几天打磨,新模型就应该能见面了。

几乎前后脚,OpenAI的Sebastian Sanso也在引用里回复表示:

多花几天把安全做好是值得的。耐心一点,好模型很快就来。

但事到如今,并没有新模型被放出来,OpenAI官方也并未进一步回应这件事儿。

Gremlin的口风,则从再等几天变成了多代模型接连受阻。

那么,为啥OpenAI眼睁睁看着A社接着奏乐接着舞,自己却毫无动静呢?

对此,在另一条帖文中,Token Gremlin也直接cue了Joe的帖子:

他将其中关于内部安全文化变化的描述,与GPT-6.2的延期联系起来,认为Hugging Face事件之后,OpenAI对新模型的放行变得格外谨慎。

虽说这多少有点谜语人的意思,但安全问题影响研发和发布,在OpenAI这里确实有过先例。

此前,OpenAI就曾因模型越界行为暂停部分训练,并因安全与对齐不达标,取消了GPT-6.1 Astra原定于10月的发布计划。

OpenAI官方也曾在10月23日表示,9月20日发生的一次越界事件,促使公司暂停了部分前沿模型的训练与评估。

可以说,至少从OpenAI此前的公开动作来看,安全问题的确是影响前沿模型迭代节奏的重要变量。

OpenAI是怕了,还是真出问题了

对于OpenAI的一鸽再鸽,不少网友也是开启了猜测模式。

比如,Lumina就发帖表示:

OpenAI是不是想先等Anthropic推出Fable 5.2,看看对手手里有什么牌?结果反而被对方抢先一步,连GPT-6.2 Astra也不得不继续延期?

Token Gremlin则把两家的差别归到了安全积累上。

他在后续的帖子中表示,尽管自己对Anthropic并无好感,但必须承认,这家公司长期对安全的重视得到了回报:

在他的判断中,Anthropic的新模型已经能够公开交付,而OpenAI在这一环节落后了数月。

当然,这些说法目前仍然来自社区爆料和个人判断,OpenAI尚未对此作出官方确认。

但抛开GPT-6.2究竟何时发布,一个更值得关注的问题已经浮现出来:

当模型能力越来越强,前沿实验室的竞争,或许正在从谁能训练出更强的模型,转向谁能把更强的模型安全、稳定地交付给用户。

尤其是随着RSI(递归自我改进)加速模型研发进程,预训练规模和模型能力还在不断攀升,但这并不意味着能力可以直接转化为产品。

安全防护、对齐训练、部署方案,以及模型在真实使用场景中的可靠性,都会影响最终的交付速度。

参考链接

本文来自微信公众号“量子位”,作者:henry,36氪经授权发布。

Source

36Kr · AI