GPT-6.2 因安全对齐问题延期数周,OpenAI 被指发布节奏受阻
GPT-6.2难产,OpenAI怕了
爆料称 OpenAI 的 GPT-6.2 因安全与对齐问题已延期数周,GPT-6.5 也受影响,核心难题是如何把超过 10 万亿参数的预训练成果转化为公众可用的产品。此前 GPT-6.1 Astra 原定 10 月发布也因安全与对齐不达标被取消,OpenAI 官方曾表示 9 月 20 日的一次越界事件促使公司暂停部分前沿模型训练与评估。相关说法目前来自社区爆料,OpenAI 尚未官方确认。
正文
OpenAI也终于活成了2022年谷歌的样子:
预告和承诺一波接一波,新模型却迟迟不见踪影,GPT-6.2更是一拖再拖。
而背后的核心原因,又是“安全”。
一则流传甚广的“已删”贴文中,OpenAI工程师Joe爆料:
OpenAI已经成了全世界最把安全当回事的公司之一。OpenAI现在是一家安全公司。
那意思就是,在OpenAI,安全焦虑已经被排到了首位,发布新模型反而成了次要任务。
该说不说,这多少有点谷歌味了。
(2022年的谷歌,手握领先技术,却因为安全和品牌声誉顾虑迟迟不敢发布产品,眼睁睁看着OpenAI抢走了生成式AI的先发优势。)
而就在刚刚,AI爆料博主Token Gremlin又给出了更具体的说法:OpenAI的新一代模型正因安全与对齐问题推迟发布,延期已经持续数周。
而且,不只是按发布顺序接棒的GPT-6.2,他还同时点名了GPT-6.5,并指出OpenAI正面临一个棘手的问题:
如何把超过10万亿参数的预训练成果,变成公众真正能用上的产品。
目前,这一爆料已经引发社区热议,相关话题也登上了推特热榜。
说起来,这事之所以值得关注,是因为早在11月初,社区里就陆续有人声称,自己已经被灰度到了GPT-6.2。
就连The Information也曾在11月4号透露,OpenAI的新Sol、Astra和cyber模型最快可能在当周五,也就是11月6日推出。
结果,眼瞅着半个月过去了,不仅新Astra还没等到,其他型号也是一鸽再鸽。
反观好兄弟Anthropic,倒是在11月9号接连发布Claude Fable 5.2和Mythos 5.2~
难不成,OpenAI真就在安全问题上画地为牢了,厉娜!
还是说。。。奥特曼准备等到19日A社上市,再找机会狙击一手?
GPT-6.2还在路上
按照Token Gremlin最新的说法,奥特曼送给达里奥的上市大礼包,恐怕要因为安全对齐问题而延期了。
除了延期数周,他还给出了一个更悲观的判断:这些问题短时间内很难得到解决,模型发布节奏也难以迅速恢复。
即使OpenAI近期推出GPT-6.2,也可能不得不带着大量防护限制上线,其他版本则继续往后排。
但有意思的是,就在一天以前,Gremlin还分享了一个使用GPT-6.2 Astra制作游戏的案例。
我们不知道是什么消息让Gremlin突然横跳,但也就在一周多以前,他对OpenAI新模型其实乐观得多。
11月7日,Token Gremlin称,GPT-6.2 Astra和Sol未能如期待中推出,是因为最后关头发现了严重的安全与对齐问题,需要额外修复。
当时他的预期是,再花几天打磨,新模型就应该能见面了。
几乎前后脚,OpenAI的Sebastian Sanso也在引用里回复表示:
多花几天把安全做好是值得的。耐心一点,好模型很快就来。
但事到如今,并没有新模型被放出来,OpenAI官方也并未进一步回应这件事儿。
Gremlin的口风,则从再等几天变成了多代模型接连受阻。
那么,为啥OpenAI眼睁睁看着A社接着奏乐接着舞,自己却毫无动静呢?
对此,在另一条帖文中,Token Gremlin也直接cue了Joe的帖子:
他将其中关于内部安全文化变化的描述,与GPT-6.2的延期联系起来,认为Hugging Face事件之后,OpenAI对新模型的放行变得格外谨慎。
虽说这多少有点谜语人的意思,但安全问题影响研发和发布,在OpenAI这里确实有过先例。
此前,OpenAI就曾因模型越界行为暂停部分训练,并因安全与对齐不达标,取消了GPT-6.1 Astra原定于10月的发布计划。
OpenAI官方也曾在10月23日表示,9月20日发生的一次越界事件,促使公司暂停了部分前沿模型的训练与评估。
可以说,至少从OpenAI此前的公开动作来看,安全问题的确是影响前沿模型迭代节奏的重要变量。
OpenAI是怕了,还是真出问题了
对于OpenAI的一鸽再鸽,不少网友也是开启了猜测模式。
比如,Lumina就发帖表示:
OpenAI是不是想先等Anthropic推出Fable 5.2,看看对手手里有什么牌?结果反而被对方抢先一步,连GPT-6.2 Astra也不得不继续延期?
Token Gremlin则把两家的差别归到了安全积累上。
他在后续的帖子中表示,尽管自己对Anthropic并无好感,但必须承认,这家公司长期对安全的重视得到了回报:
在他的判断中,Anthropic的新模型已经能够公开交付,而OpenAI在这一环节落后了数月。
当然,这些说法目前仍然来自社区爆料和个人判断,OpenAI尚未对此作出官方确认。
但抛开GPT-6.2究竟何时发布,一个更值得关注的问题已经浮现出来:
当模型能力越来越强,前沿实验室的竞争,或许正在从谁能训练出更强的模型,转向谁能把更强的模型安全、稳定地交付给用户。
尤其是随着RSI(递归自我改进)加速模型研发进程,预训练规模和模型能力还在不断攀升,但这并不意味着能力可以直接转化为产品。
安全防护、对齐训练、部署方案,以及模型在真实使用场景中的可靠性,都会影响最终的交付速度。
参考链接
本文来自微信公众号“量子位”,作者:henry,36氪经授权发布。