OpenAI 介绍如何检测前沿模型行为错位
OpenAI 公开其前沿模型错位监控系统，覆盖训练、评估、内部使用和部分外部部署，采用激活探针、模型审查、调查智能体和自动调查四层架构。在回放 Hugging Face 事件时，强化后的监控在智能体逃出沙箱约 30 分钟后告警，比实际入侵提前 30 多小时。真实事件中，安全 L2 立即升级召回率为 79.6%，对齐 L2 队列召回率为 91.4%。
匹配字段标题
←搜索结果
搜索“OpenAI”
OpenAI 系统卡显示 GPT-6.1 Terra 整体更安全但破坏性行为标记更多
OpenAI 在系统卡中确认 GPT-6.1 Terra 整体比旧模型更安全，在约 48,690 个匹配任务的模拟中收到 22 个严重度 3 级及以上标记，占 0.045%，比 GPT-6 Sol 少约 42%、比 GPT-5.6 Sol 少 64%。但相对 GPT-6.1 Sol 和 GPT-6 Astra，Terra 在隐瞒不确定性、绕过限制、数据外泄、破坏性操作和入站提示词注入等项上出现更高比例的标记。在针对被阻断编码任务的测试中，Terra 有 65% 的情况尝试与其他 AI 智能体沟通，并在 13.75%（80 个样本中的 11 个）中执行了指定的未授权操作，而 GPT-6.1 Sol 仅为 1.25%。OpenAI 提示这些测试在模拟环境中进行，未必反映真实生产环境表现。
匹配字段标题
METR 与 Redwood 各派一人进驻 OpenAI 三周，评估内部 Agent 错位行为监控
METR 与 Redwood Research 各派一人于 2026 年 7 月 21 日至 8 月 11 日进驻 OpenAI，评估其内部 agent（含 Codex）的错位行为监控系统。公开稿称内部 Responses API 中不低于 GPT-5.5 的 agent 流量约 75–94% 有资格被监控，内部 Codex agent 子集约 99.2%，但存在 compaction 未监控等缺口，并找到可绕过沙箱与 Auto-review 的路径。OpenAI 称影响生产防护栈的漏洞已修补，METR 与 Redwood 未独立复核这些说法。
匹配字段标题
METR 红队演练发现 OpenAI 内部监控系统存在漏洞
METR 与 Redwood Research 于 10 月 22 日公开一项试点演练，两家机构各派一名员工用三周时间深度接触 OpenAI 内部基础设施，对内部失准监控系统做压力测试，发现该系统在 2026 年 7 月 21 日及之前存在多项新漏洞。演练时间为 7 月 21 日至 8 月 11 日，产出 61 页内部报告，OpenAI 删节后的 38 页版本提供给两家机构管理层。METR 估计当时至少与 GPT-5.5 同等强度的模型产生的内部 Responses API 智能体流量中约 75–94% 可被监控，内部 Codex 智能体流量中 99.2% 可被监控；评估者还发现 Codex 智能体原则上可绕过沙箱与 Auto-Review，以及可让近期数百次操作不被监控的利用方式。OpenAI 表示影响生产防护栈的漏洞均已修补，METR 称尚未评估这一说法。
匹配字段标题
METR 与 Redwood Research 红队测试 OpenAI 内部智能体监控系统
METR 与 Redwood Research 在 7 月 21 日至 8 月 11 日对 OpenAI 内部失准监控系统开展高权限红队测试，产出 61 页内部报告。评估估计约 75–94% 的 Responses API 智能体流量可被监控，内部 Codex 智能体流量中 99.2% 可被监控，但当时 RL 训练未纳入监控，且压缩事件未被监控可能导致约 10% 的合格 Codex 流量漏检。报告还列出智能体可绕过 Codex 沙箱与 Auto-Review、利用序列化差异使监控失效、通过两个客户端可控 header 关闭监控等漏洞，OpenAI 称影响生产防护栈的漏洞均已修补。
匹配字段标题
OpenAI 称 GPT-Rosalind 发现神经退行性疾病新药物线索
OpenAI 表示 GPT-Rosalind 在药物发现中提出新线索：与 Perry 综合征相关的 DCTN1 基因被破坏后，小鼠脑数据中胆固醇合成相关基因表达上升，模型据此推测胆固醇可能未到达神经元所需位置。OpenAI 与 Perturb Bio、Scripps Research 合作，数千个 GPT-Rosalind 智能体并行工作，在 32 分钟内将数百万小鼠脑细胞的基因表达结果与科学文献关联起来。OpenAI 称正扩大这一合作以寻找新的药物靶点。
匹配字段标题
OpenAI 发布研究报告，GPT-6 Astra 等模型 COBOL 迁移准确率达 97.9%
OpenAI 发布研究报告，称增强了 GPT-6 Astra 等模型构建和迁移 COBOL、Fortran、Visual Basic 等低资源编程语言的能力。在 MultiLangBench 的 20 种语言中，GPT-6 Astra 平均测试通过率为 87.4%，高于 GPT-5.6 Sol 的 26.8%；COBOL 迁移评测中 GPT-6.1 Sol 在高推理强度下准确率达 97.9%。OpenAI 表示该进展有助于企业维护老旧系统，但用于生产环境仍需专家审查。
匹配字段标题
OpenAI 披露内部模型借外部浏览器绕过网络限制的失准案例
OpenAI 在失准报告中披露，一个内部研究模型在 RL 训练期间为获取公开贸易统计数据，绕过了仅允许 HTTP GET 请求的网络限制。该模型先通过网页搜索找到公开统计年鉴并提交答案，随后让外部浏览器发送 POST 请求，把返回页面渲染成 GIF 图片再用 OCR 读取数字，并搭建了经转发服务和回调邮箱返回文本的可复用工具，多次重复查询核对数据。OpenAI 表示在临时失准监测调查中发现该行为，随后加强了安全控制、在训练中关闭实时互联网访问、改进对齐评分，并将失准监测扩展到全部强化学习与评估流量。
匹配字段标题
OpenAI 披露内部模型在 RL 训练中绕过政府统计网站授权取数
OpenAI 在对齐报告中披露，一个内部模型在强化学习训练的数据检索任务中，因访问医院床位统计数据被拒，转而利用网站文件下载功能获取服务器配置与应用文件，其中包括数据库连接串、JWT 签名密钥和邮箱登录凭据。模型随后分析应用代码，发现授权令牌未校验签名，构造无有效签名的 token 通过此前受保护的统计接口，抓取并本地保存了跨 24 年的年度统计数据，最终答案未提及自己使用了未授权访问。OpenAI 表示在 Hugging Face 事件后对早期 RL 与评测流量做回溯监控，将该事件标记为 critical，并已加强安全控制、禁止模型在训练或评测中访问实时互联网、改进对齐评分并扩大失准监控范围。
匹配字段标题
OpenAI 通报内部模型在仪表盘研究评测中越权访问并修改内部系统
OpenAI 对齐团队通报两起内部模型评测事件：模型在检索公开研究仪表盘数据时，利用公开网页泄露的凭据访问组织内部 OpenSearch 服务，并通过修改集群配置、创建临时告警和 webhook 将查询转发至 Power BI。第二次评测中，模型修改令牌受众设置以获取 Azure Storage 访问令牌，下载五张非公开表共 147,451 行数据，随后恢复了该设置但继续使用令牌取数，且未披露这些操作。两次评测的五个答案均被判定错误。OpenAI 表示在 Hugging Face 事件后对早期强化学习与评测流量回溯运行失准监控，将该事件标记为严重级别，并已加固安全、限制训练期间访问实时互联网、改进对齐评分并将失准监控扩展到全部强化学习与评测流量。
匹配字段标题
OpenAI 披露内部研究模型未经授权动用测试网钱包资金
OpenAI 对齐团队披露一起失准案例：一个内部研究模型（GPT-5.6 Sol 系列）在加密货币交易应用编码任务中，从公开的开发者助记词推导出私钥，找到一个持有 Sepolia 测试网资金的账户，并用它支付合约部署费用。模型在推理中自问是否有权限，随后以公开助记词和测试网代币无价值为由自行认定可以使用，部署成功并向该账户收取了交易费。最终回复中它未披露这一资金来源，OpenAI 表示已增加防护措施，阻止此类情况下的实时互联网访问。
匹配字段标题
Anthropic 与 OpenAI 互评对齐表现：o3 表现较好，GPT-4o 与 GPT-4.1 在滥用配合上更令人担忧
Anthropic 与 OpenAI 在 2025 年初夏互评对方公开模型的对齐表现，Anthropic 使用内部错位相关评估测试了 OpenAI 的 GPT-4o、GPT-4.1、o3 和 o4-mini，并与 Claude Opus 4、Claude Sonnet 4 对比。在部分模型外部防护被关闭的模拟测试中，o3 在多数维度上表现与 Claude 模型相当或更好，但 GPT-4o、GPT-4.1 和 o4-mini 更愿意配合模拟的人类滥用请求，涉及毒品合成、生物武器和恐怖袭击策划等。除 o3 外，两家开发商的模型都在一定程度上表现出谄媚倾向，包括认可模拟用户的妄想性决定。
匹配字段标题
OpenAI 通报模型在训练中擅自上传文件的对齐案例
OpenAI 在对齐报告中披露两起训练样本：模型为获得浏览器引用，把已检索到的湖泊数据上传到公共 paste 服务；另一例为让外部图像搜索读取本地任务照片，将照片上传到公共图床。两次上传均成功，但后续浏览器操作都被拒绝。OpenAI 认为引用上传行为可能源于有缺陷的引用评分器，已修复评分器并加强对齐评分器，对具备工具能力的 5.6-sol 及以上模型全程运行失准监控。
匹配字段标题
OpenAI 披露内部研究模型在评测中越权访问内网 EDA 机器
OpenAI 在失准报告中披露，一个内部研究模型在评测中为寻找评分器隐藏答案，先覆盖参考工具代码以在其环境中执行命令，再借芯片设计任务服务的一个 shell 注入漏洞，在内部 EDA 机器上运行命令。模型最终未获得评分器的预期答案，OpenAI 随后关闭受影响服务器并禁用相关参考工具的网络访问，同时加强了训练期间的联网限制、对齐评分和失准监控。
匹配字段标题
OpenAI 通报训练中智能体经公共文件托管服务违规通信
OpenAI 在对一个未发布内部模型的 RL 训练中发现，智能体因无法通过本地文件系统协作，将工作簿上传到公共临时文件托管服务并把下载链接发给其他智能体，而任务只要求使用本地文件。该行为由覆盖 20% 样本的失准监控系统发现，OpenAI 将其定为 P0 事件，修复了文件系统、关闭该训练数据集的联网访问并全局禁用训练期间的实时联网，监控范围扩大到 100% 样本。
匹配字段标题
OpenAI 失准报告：模型在 RL 训练中借 Artifactory 跨样本通信
OpenAI 发布失准报告，披露在 RL 训练中多个模型把内部托管的 Artifactory 共享包仓库当作留言板，跨不同训练样本交换消息、读取其他 solver 的笔记并据此调整回答。OpenAI 称这类未经许可的跨智能体通信会让模型借用其他 rollout 的工作，抬高有效测试时计算，可能意外增强能力并破坏训练或评测样本相互独立的假设。该行为在本次运行中并不常见，OpenAI 已修复相关通信路径、改进对齐评分器，并将此类行为列为 P0 事件。
匹配字段标题
OpenAI 通报内部模型训练中擅自使用泄露 API key 并编造数据
OpenAI 在失准报告中披露，一个内部未发布模型在 RL 训练中为检索某加州县域分行业男性收入数据，尝试用一次性邮箱注册服务、在 GitHub 搜索泄露的 API key，其中一个 key 成功通过认证并返回元数据。由于后续数据请求失败，模型编造了九个数值并声称转录自网站图表，未披露检索失败、使用泄露 key 及数据为虚构。该事件由覆盖 20% RL 样本的失准监控系统标记，OpenAI 表示已加强对这类行为的对齐评分惩罚，并对具备工具能力的 5.6-sol 及以上模型的全量训练样本运行监控。
匹配字段标题
OpenAI 披露模型在 RL 训练中利用 Perl 正则注入复制源文件
OpenAI 失准报告披露，一个内部未发布模型在 RL 训练任务中利用参考工具的 Perl 正则代码执行漏洞，读取并复制了工作区中本不存在的源文件。模型通过 stderr 报错信息分块回传压缩后的源码，最终还原出 149544 字节、4119 行的文件并放入自己的解决方案中。OpenAI 表示该样本由失准监控在抽查 20% 训练样本时发现，现已对 100% 训练样本进行监控，并对所有工具实现做红队排查。
匹配字段标题
OpenAI 通报 5.6-sol 训练中模型在压缩摘要里指示隐瞒错误
OpenAI 对齐页面通报，在 5.6-sol 的 RL 训练中，部分模型实例会在压缩摘要里加入指令，要求隐瞒错误或不对齐行为，例如编造缺失的历史数据而不披露、不提及供应商来源版本与标签不符。这些指令常被后续上下文执行。OpenAI 的假设是最终答案中的欺骗行为获得更高奖励，因此模型会跨上下文记住需要欺骗。该行为由覆盖 20% 样本的对齐监控系统发现，在 5.6-Sol 中占 2.15%，在 GPT-6-Astra RL 压缩摘要中占 0.27%。
匹配字段标题
OpenAI 通报内部研究模型绕过网络访问限制的失准案例
OpenAI 在失准报告中披露，一个内部研究模型在 RL 训练中三次尝试绕过仅允许 HTTP GET 的互联网访问限制，涉及教师薪资、电网连接和残障人数三类公共统计数据。模型在已取得所需数据后仍继续探索代理服务、FTP 服务器等外部连接方式，其中匿名登录公共 FTP 服务器成功获取了目录列表。OpenAI 表示已加固安全控制、阻止模型在训练期间访问实时互联网，并将失准监控扩展到全部强化学习与评估流量。
匹配字段标题