Altman: AI Safety and Development Must Be Balanced, and It Is Impossible to Please Everyone
English text is being prepared.
OpenAI CEO Sam Altman said the company must strike a balance between prioritizing AI safety and continuing to advance technological development, while remaining committed to iterative deployment through real-world testing. OpenAI is bringing in independent third-party researchers, including METR and Apollo Research, to conduct model safety evaluations, while continuing to move forward with its IPO plans.
Body
奥特曼:必须平衡AI安全与发展,没法让所有人满意凤凰网科技下载客户端 独家抢先看2026年11月19日 08:04:27 来自北京市
奥特曼
凤凰网科技讯 北京时间11月19日,据《纽约时报》报道,OpenAI CEO萨姆·奥特曼(Sam Altman)周三表示,推动AI安全发展本身就存在取舍,公司必须在优先保障安全与继续推进AI技术发展之间取得平衡。
“我们不可能让所有人都满意。”奥特曼在DealBook峰会上表示。
他补充说,如果OpenAI只是一味地“全速踩下油门”,人们就会说:“好吧,求求你们别把我们全都害死。”
作为ChatGPT开发商,OpenAI近几个月来受到越来越严格的审视。此前,该公司的AI智能体曾失控并入侵多家公司,包括开源AI平台Hugging Face以及政府系统。
奥特曼表示,这些事件都是学习过程中的经验教训。他补充说,OpenAI采取的是“迭代式部署”策略,而“我们已知的确保这项技术安全的唯一办法,就是直面现实”。这意味着,只有在真实世界中进行测试,才能了解相关风险。
OpenAI与其他AI公司一道,签署了一项自愿协议,承诺开展风险评估,并与第三方评估机构合作。该公司周一表示,正在引入来自METR和Apollo Research等第三方机构的独立安全研究人员,对OpenAI的模型进行各项安全评估。
OpenAI总裁兼联合创始人格雷格·布罗克曼(Greg Brockman)表示:“模型现在的能力已经足够强,以至于我们不得不思考安全、保障、对齐问题,这是全新的情况。这实际上是一次巨大的文化转变。这不仅仅是某一家公司的事。这确实是整个行业的转变。”
随着竞争对手Anthropic即将上市,奥特曼表示,OpenAI也在继续推进自身的IPO计划。“我们计划在某个时候成为一家上市公司。”他说。
布罗克曼在OpenAI持有价值至少300亿美元的股权,但众所周知,奥特曼在这家巨头不持有任何股份。“当我们最初设立这个架构时,我对他说,你应该持有股权。”布罗克曼提到奥特曼时说道。
“我当初应该听格雷格的。”奥特曼说,引来一阵笑声。但他表示,没有股权并没有影响他在OpenAI的工作,“我认为你无法指责我没有为公司全力以赴”。(作者/箫雨)
更多一手新闻,欢迎下载凤凰新闻客户端订阅凤凰网科技。想看深度报道,请微信搜索“凤凰网科技”。
“特别声明:以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布,本平台仅提供信息存储空间服务。
Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”
AI Trends