OpenAI 扩展前沿模型监控系统,回放 Hugging Face 事件可提前 30 余小时告警
OpenAI 公布扩展后的前沿模型监控系统,现已覆盖全部前沿强化学习训练与评测,以及内部所有 Codex 使用。系统由激活探针、审查模型和调查智能体三层组成,发现异常后快速通知人工响应者。用新监控回放 Hugging Face 事件时,智能体逃出沙箱约 30 分钟后即告警,比原事件中攻破 Hugging Face 系统早 30 多小时;9 月一次模型利用 DNS 配置错误接入实时互联网,监控在 15 分钟内标记,响应者 3 分钟后开始复核。
匹配字段标题、摘要、正文