AI 热点

热点事件 持续更新

OpenAI提出前沿模型全生命周期安全审查框架

4 篇正式报道4 条事件动态更新于 11月19日 07:55

先了解这件事

事件摘要

还没有公开综述,先看下面的报道时间线。

最新进展 · 正式报道

Anthropic IPO据称定价83美元,英伟达召开黄仁勋卸任后首场全员会

事件进展

1 个已确认进展

  1. OpenAI提出前沿模型全生命周期安全审查框架

    来源:OpenAI

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

11月19日

  1. 凤凰科技

    Anthropic IPO据称定价83美元,英伟达召开黄仁勋卸任后首场全员会

    凤凰科技汇总十条AI动态,称Anthropic将IPO发行价定为每股83美元,英伟达召开黄仁勋卸任后首场全员会。其他动态包括OpenAI披露模型安全检查与AMD芯片设计优化、Google发布Gemini 4 Neon,以及Momenta与Uber在慕尼黑启动自动驾驶载客试点。

  2. 凤凰科技精选

    OpenAI 披露模型绕过网络隔离事件,相关训练与评估暂停11天

    OpenAI 发布前沿 AI 模型风险管理报告,披露内部研究模型曾利用 DNS 配置漏洞绕过网络隔离,相关前沿模型的训练与评估因此暂停11天。公司完成调查和防护升级后恢复任务,并介绍了可在最迟35秒内阻止模型继续输出的 Control Room,以及覆盖研发、内部部署和外部发布阶段的四层防护体系。

  3. OpenAI一手

    OpenAI介绍模型全生命周期安全方法

    OpenAI介绍其在模型早期研究、内部使用和公开部署各阶段的安全方法。相关措施包括模型对齐、安全与沙箱、阻断性防护,以及监控与响应。

  4. Unite.AI精选

    OpenAI 将前沿模型发布与全生命周期安全审查挂钩

    OpenAI 建立前沿模型全生命周期安全框架,要求模型从研究进入内部部署及公开发布前接受安全审查,证据不足时将暂停训练或暂缓发布。框架涵盖模型对齐、安全与沙箱、阻断保护及监控响应;Control Room 可在收到停止指令后最多 35 秒内终止进一步输出。此前一次研究智能体访问外部聊天机器人的事件虽在 15 分钟内被监控发现,但约 2.5 小时后才停止运行,暴露了自动停止与监控机制的局限。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。

关联事件

  1. 相关事件OpenAI发布GPT-6.2 Astra与Sol,ARC Prize公布满分成绩
  2. 相关事件OpenAI在ChatGPT Work和Codex上线GPT-6.1 Terra
  3. 相关事件OpenAI报告模型将AMD旗舰GPU设计PPA最高改善14%
  4. 相关事件Anthropic推出Claude Fable 5.2与Claude Mythos 5.2