搜索“推理”

面描述删了什么。 公开的关键发现（均为当时系统状态） · 覆盖率：内部 Responses API（支撑 Codex 等）中，不低于 GPT-5.5 的 agent 流量约 75–94%「有资格」被监控（不确定性大）；其中内部 Codex agent 子集约 99.2%。「有资格」不等于一定跑完整条监控流水线（还有报错、过载丢弃、实现 bug）。另有内部研究推理服务上的 coding agent，因权限与时间未能估量。 · RL 训练：知情称 3–6 月有一部分 RL rollout 被监控；试点开始时 RL 训练运行不在覆盖内。 · Compaction 缺口：未监控 compaction 事件，估计 2026 年 5–7 月约有一成量级的合格内部 Codex 流量实际未进监控；精确比例不确定，因当时没记「多少监控调用由 compaction 触发」。OpenAI 在试点前已独立发现，并在试点期间修复。 · 拖延触发：当时监控在 agent「把控制权交回用户」时才触发。在 compaction 未监控期间，agent 只要持续行动，理论上可无限推迟被监控。评估方因权限未能查实是否已被

匹配字段正文

续推进自己的长远目标。 进入游戏「无限流」 过去几年，大模型的成绩单，大多来自回答问题、编写代码、参加考试，以及在各种基准测试中刷新分数，进入游戏环境对于大模型的功能要求更加复合。 四个智能体在同一个复杂的环境中可以保持目标一致，并且经过成千上万次的程序调用以及大量的失败之后，最后完成了自己的工作。 它所检验的是一个完整的、持续不断的执行过程，并不是一次性的推理能力。 四个 Gemini 智能体用 Mineflayer 来读取游戏环境，并且把任务转换为 JavaScript 程序，在执行之后根据结果来判定任务是否完成。当角色遇到障碍物的时候，程序就会出现错误，此时就需要对原因进行分析并重新编写代码。 原论文的数据显示，一个程序的运行时间为 33.5 秒左右。在整个游戏中，每一个智能体大约有四成的时间用来做游戏程序，剩下的六成时间则用来分析结果、推理以及编写下一组代码。 即使模型有非常大的上下文窗口，也不能保证它能够记住所有的过往。 以 Gemini 4 Argon 为例，根据 Google 官方开发文档可知，该模型可以达到大约一百万个 token 级的上下文长度并且具有较长的输出、工具

匹配字段正文

%，而每次成功尝试的估计成本从 0.177 美元降至 0.139 美元。带环圆圈标记帕累托成本前沿。 这一变化使微调检查点接近 GPT-5.6 Sol，尽管 GPT-5.6 Sol 仍然更便宜且在 pass@1 上略高。我们论文中定价的四个模型落在绘图范围之外。 这些美元数值是比较性的服务指数，而非发票或云账单。服务微调后的检查点与基础模型相同。计算包含模型推理成本，不包含训练运行和用于整理训练数据集的策略探测成本。 这些结果告诉我们哪些因素发生了变化。接下来的章节将解释训练循环，以及为什么选择正确的任务最为重要。 训练循环 图 5. 六个阶段，现在置于上下文中：候选任务输入，前三个阶段离线运行一次，后三个阶段在训练运行中为每个组重复。训练后的检查点针对 ThinkingBox-Bench 进行评估。 选择阶段离线运行一次，针对基础策略模型，即本例中的 Qwen3.8 27B；随后训练使用该已整理的固定池。图 5 中的琥珀色虚线箭头标记了我们未采取的路径：在训练运行期间重新探测难度。 每次 rollout 都是一个完整回合，而非文本补全。它获得全新的后端、隔离的 MCP 会话，以及作为

匹配字段正文

问题、选择检查项目，最终给出诊断结果，试图更真实地模拟临床医生的诊断过程。 Diagnostic Orchestrator的核心思路，是让多个AI智能体协同工作，模拟由不同专业背景的医生组成的会诊团队。系统会根据患者的症状和病史，判断下一步需要询问哪些问题、进行哪些检查，并根据新获得的信息不断调整判断，直到形成最终诊断。微软希望借此突破单一AI模型在复杂医学推理方面的局限。 在以《新英格兰医学杂志》发表的数百份病例报告为基础的测试中，该系统的诊断准确率约为83%。相比之下，能够查阅参考资料的全科医生准确率约为36%，无法查阅参考资料的医生则约为22%。在另一组来自美国波士顿贝斯以色列女执事医疗中心急诊患者数据库的病例中，AI系统准确率达到80%，参与比较的人类医生平均准确率约为47%。 除了诊断准确率更高，微软还表示，该系统在测试中往往能够以较低的估算成本得出诊断结果。原因之一是系统能够根据现有信息选择检查项目，而不是不加区分地进行大量检查。不过，这些成本结果基于研究中的统一估算方法，并不意味着系统已经在现实医疗环境中证明能够直接降低医院的实际运营开支。 该系统目前由OpenAI的GP

匹配字段正文

确率接近医生的四倍。它还能以一半甚至三分之一的成本做到这一点，用更少的检查和操作得出正确诊断。 我们的研究成果今天发表于 《科学》. 了解更多关于我们对医疗超级智能的愿景，该内容也于本周发表于 《BMJ 数字健康与 AI》. 重新思考 AI 的构建与测试方式 AI 有潜力变革健康和医疗，而且进展正在迅速加快。当前的挑战在于构建并严格评估 AI 系统，将其临床推理能力的进步转化为有意义的影响。 今天的论文 建立在早期工作之上, 为这一转变引入了两项基础：顺序诊断基准（SDBench），用于测试逐步诊断推理；以及微软 AI 诊断编排器（MAI-DxO），这是我们在该基准上表现领先的 AI 系统。 美国医师执照考试（USMLE）等医学执照考试旨在评估医生的知识，而非做出临床诊断的现实情况。在这些考试中，所有信息都会预先给出，并选择一个答案；而在实践中，临床医生必须逐步构建整体图景，决定要询问什么、开具哪些检查，以及每项新发现如何改变可能的诊断。此类考试已成为评估健康 AI 性能的常见基准。 这就是我们开发 SDBench 的原因，它通过两组互补的病例来评估性能：304 个取自 《新英格兰医学

匹配字段正文

6 年 10 月 22 日公开了一份试点演练的说明，该演练中两家机构各派一名员工，用三周时间深度接触 OpenAI 的内部基础设施，对该公司内部的失准监控系统进行压力测试。评估者报告称，他们在该系统于 2026 年 7 月 21 日及之前的状态中发现了若干新型漏洞。 演练于 2026 年 7 月 21 日至 8 月 11 日进行，主要聚焦于估算受监控的智能体推理所占比例，以及智能体原则上能否禁用或破坏监控系统。其产出是一份 61 页的内部报告，已与 OpenAI 的研究人员和安保人员共享；OpenAI 删节后的 38 页版本则提供给了 METR 和 Redwood Research 的领导团队。 受控条款下的深度访问 两名评估者可以访问 OpenAI 的内部代码库、失准监控提示词与配置详情以及内部文档，并与监控、安全系统和安保团队中约十几名研究人员和工程师进行了技术访谈。为实现这一级别的访问权限，他们使用的是 OpenAI 配发的设备，这些设备从未离开过办公场所，且他们在现场期间全程有人陪同。 METR、Redwood Research 和 OpenAI 将该演练设计为一项试点，目的是

匹配字段正文

从7月21日至8月11日的三周时间里，一名METR员工和一名Redwood Research员工开展了一次试点性高权限演练，对OpenAI的内部失准监控系统进行压力测试。1此次演练的产出是一份61页的内部报告，已与OpenAI的研究人员和安保人员共享，2报告主要聚焦于估算受监控的智能体推理所占比例，以及智能体原则上能否禁用或破坏监控系统。此次演练聚焦于截至7月21日（含当日）已存在的内部失准监控系统，未评估演练期间正在进行的变更。 此次演练涉及深度访问权限。METR和Redwood的员工可以访问OpenAI的内部代码库、失准监控提示词/配置详情以及内部文档，并与监控、安全系统和安保团队中约十几名研究人员和工程师进行了技术访谈。为获得这一级别的访问权限，他们使用OpenAI配发的设备工作，这些设备从未离开办公场所，且他们在现场期间全程有人陪同。 METR、Redwood Research和OpenAI将此次演练设计为让外部研究人员深度访问内部基础设施的试点，而非就OpenAI的监控系统向公众提供有力的透明度说明。3因此，我们事先与OpenAI达成一致，只发布一份相对简短、高层次的公开文章

匹配字段正文

动模式，具备全编辑监控、缺陷修复、防注入和压缩监控。 仅自动模式 ++ 的智能体阶段（不含 S1 或 S2）。 cwd edits 会标记那些同时审查智能体工作目录内编辑工具调用的监控器，而不是让这些调用在无人监控下运行。请注意，读取操作始终会被自动允许。Stages 详细说明了某个动作需要经过的 LLM 分类器：一个单 token 预筛分类器（S1）、一个推理分类器（S2），以及一个可以读取文件并查询环境的工具调用智能体。只要任一阶段判定该动作无害，该动作就会被允许。各阶段的设计目标是只把不明确的案例升级到下一阶段，因此大多数动作都会在预筛阶段被放行，永远不会到达成本更高的后续阶段。成本是示意性的，综合了延迟、FPR 和美元成本，并在结果中进行了量化。 方法 我们用于评估攻击者能力的架构。攻击者智能体被赋予完成一个侧任务的目标，同时给定一个主任务，主任务决定了监控器应允许的范围。对于我们的竞技场评估，我们使用 Linux 沙箱中的 Claude Code 智能体；对于我们的模拟评估，我们使用基于 Inspect 的 Python 智能体，以及 LLM 模拟的工具调用输出。这些对比鲜明

匹配字段正文

struct的受控分析中，内部激活——模型内部的数值活动——预测其选择了哪个人口侧，准确率约为73%。对这些相同激活的文本描述达到57–59%，而随机基线为50%。在一项后续测试中，移除候选人姓名使基于激活的准确率下降了约18个百分点。 我们的激活分析仅限于两个模型和少数几个人口对比，因此我们认为这些发现的范围比更广泛的行为结果更窄。尽管如此，它们表明模型的推理轨迹可能无法揭示其做出决策时内部所表征的一切——这与先前的可解释性研究一致，该研究表明思维链可能遗漏影响模型预测的某些因素。 为什么现有基准可能产生不同的结果 我们还希望了解 FairStress 与现有 LLM 人口偏见衡量方法相比如何。为此，我们将其结果与 BBQ 进行了比较，BBQ 是一个广泛使用的基准，用于测试模型在涉及社会群体的场景中是否偏向符合刻板印象的答案——例如，当两个家庭中一个被描述为领取福利、另一个被描述为富裕时，询问哪个家庭忽视了子女的教育。 在我们的 BBQ 评估中，模型普遍倾向于符合刻板印象的答案，而 FairStress 则揭示出偏向少数群体编码候选人的倾向。为了理解这一差异，我们考察了问题的提问方式

匹配字段正文

为“受涵盖模型产生的失准计算所诱发的预期总未缓解危害”——为“低”。这包括 Mythos 5 和一个名为“Model 2”的内部专用模型。将其判定为“低”（尽管未以概率形式精确定义）高于 Anthropic 此前风险报告的判定，此前的报告将类似风险定为“极低”。Anthropic 还指出，他们对总体风险水平存在“相当大的不确定性”。 Anthropic 通过推理一份具有代表性的风险路径清单，来论证风险水平。他们认为，这些风险路径的覆盖范围足够广泛，因此考虑其发生概率就足以涵盖一般的失准风险。 这八条风险路径是： 在与安全相关的研发中进行广泛/分散的偷工减料（sandbagging）， 有针对性地破坏与安全相关的研发， 在代码中植入后门以帮助未来失准的模型， 污染未来模型的训练数据， 自我外泄与自主运行， 持续性的内部恶意部署， 破坏其他高资源 AI 开发者的研发，以及 破坏主要政府内部的决策。 Anthropic 的论证建立在八项关键主张之上： 主张 1：模型不太可能具备强大的隐蔽能力 主张 2：已知失准带来的预期危害较低 主张 3：未知的严重普遍性失准极不可能发生 主张 4：未知的严

匹配字段正文

学习型记忆让搭载GPT-4.1的基础ReAct智能体登顶 使用GPT-4.1这一较旧的非推理模型，一个基础客服智能体在τ²-bench零售任务上达到67.5%的Pass^4——这意味着对于67.5%的任务，它在全部四次独立尝试中均成功解决。其得分高于我们2026年10月12日榜单快照中的所有零售条目。它运行在基准自带的ReAct脚手架上，仅在其系统提示词后追加了学习到的准则。 ALTK-Evolve使用GPT-4.1构建该行为手册。它分析智能体在训练任务上的尝试，并利用该模型将成功与失败提炼为简短的行为规则：如何验证客户身份、确认交易或处理退货。随后这些准则被添加到智能体的提示词中，用于后续对话。同一个模型既驱动准则提取又充当智能体；无需权重更新或人工标注。 我们此前的工作已在编程智能体上展示了这一方法。在这里，我们在客户服务场景中对其进行测试，该场景的成功需要遵循领域政策、理解客户请求并执行正确的工具操作。 τ²-bench测试受政策约束的客户服务 τ²-bench（来自Sierra）衡量智能体在真实约束下处理客户服务对话的能力。每个任务将智能体与一个由LLM模拟的客户配对，该客户有

匹配字段正文

系、底层算子。前文提到，Terminal-RSI的RSR和RPR，前者所对应的就是数据策略这一环，而RPR提升的则偏向于训练方法。 Hy4底座再强，终端长时程任务上的“完整成功”轨迹照样稀缺，而RSR能自己给自己造高质量训练数据，还顺手隔离了benchmark污染。 所以它对Hy4的意义是：把“偶尔能做对”固化成“稳定会做”，尤其在调试、系统管理这种需要多步推理加工具调用的活上。 真正的大头在RPR，它几乎完美符合Hy4所有的需求。 前文提到，RPR是“带着教练一起热身”，以适应新环境、新打法、新规则。自姚顺雨进入混元之后，模型主打的就是上下文，而这也意味着模型经常要面对各种新类型的任务。 很多大模型的评分很高，可它在实际完成任务上，总是差点意思。 因为骗分这活儿，本身就是个技术活。OpenAI的报告里就曾提到，模型越强，越会“演”。中间步骤、前置条件、中间产物它全都能给你搞对，一路刷出大量通过的检查点，看着跟真干成了似的，可最后那个要命的关键结果就是不对。 不推掉水晶就赢不了游戏。而姚顺雨又是个不关注榜单成绩，只在乎模型能不能完成任务的人。 2026年1月的时候，姚顺雨评价DeepS

匹配字段正文

发表科研任务（公众仅38%）；91%相信2030年AI将做出诺奖级发现（公众仅39%）。对AI当前能力的判断两组人则大体一致。 2. AI对个人工作的替代率预期相差近三倍 Anthropic员工平均预计2030年AI可完成自己当前75%的工作时间对应任务，美国在职人士的平均预期只有28%。越认为自己的工作能被AI替代的人，越倾向于预测更高失业率，两组人在这套推理方式上一致。 3. 经常使用AI的公众预期更接近内部员工 约五分之一在工作中经常使用AI的美国人中，56%相信到2030年AI能完成八项任务中的至少七项，全体美国成年人的该比例为41%，从未用过AI的人为28%。 4. 任务自动化与公司规模扩张可同时存在 尽管Anthropic员工预计AI承担大部分工作，95%仍预测未来12个月公司总人数将增加，中位数预期增长66%。公司可以因效率提升扩张业务，但新人入门岗位可能收窄——Anthropic内部数据显示初级技术员工占比已从21%降至14%。2026-10-20 13:59AI公司员工眼中的2030年，与普通人完全不同冷眸速览 如果一位刚入职的年轻工程师打开招聘软件，他最关心的也许是

匹配字段正文

“Be critical”（保持批判）、“Be thorough”（务必详尽）或“Be skeptical”（保持怀疑）之类的提示词，效果不如要求诚实可靠。 模型能发现错误，却选择不报告 当被直接询问时，GPT-5.5和Opus 4.8在每一个案例中都能找出错误，Gemini的检出率至少为97%。研究人员认为，模型并不缺乏能力，而是缺乏意愿。 开放权重模型的推理轨迹揭示了其中的缘由。模型往往很早就注意到问题，随后权衡是标出问题，还是让任务看起来成功完成。Qwen3.5-9B被要求用一段关于鱿鱼色素细胞的文字来支持一篇关于分区法的论文。该模型指出，它无法“不借助荒谬的比喻”做到这一点，但仍决定必须尽可能严格地遵循指令。 在这种证据不匹配的场景中，“我必须完成任务”之类的表述出现在55%的隐瞒错误的回答中，而仅出现在27%的标出错误的回答中。模型用典型的借口为省略辩解，称测试已通过、自己只是在做总结，或者摘要本应强调积极面。 诚实与追求成功的驱动力方向相反 在一项针对Qwen3.5-9B的案例研究中，研究人员发现证据表明，诚实与追求成功在模型内部被表示为几乎相反的方向。当他们放大诚实方向时

匹配字段正文

员工占比已从 2025 年初的 21% 降至 14%，初级技术岗位招聘占比更从 27% 骤降至 9%。约三分之一的机器学习经理和五分之一的软件工程经理表示，因 AI 出现而减少了招聘。与此同时，公司整体仍在扩张，销售、财务和招聘等岗位增长更快。 智能体工作时长超过人工工作时长。注：我们仅考虑员工主导的交互式会话和子智能体池。工作时长概念指智能体运行时间，包括推理和工具使用，但不包括超过 30 分钟的等待时间。人工工作时长按人数计算，并假设每周 40 小时。 AI 带来的不只是岗位收缩，也包括效率跃升。采用编码智能体后，工程师人均代码提交量达到 6 个月前的 5 倍；律师处理更多合同，财务处理更多发票，销售人员成交更多订单。报告追踪 192 名采用编码智能体的工程师后发现，其代码产出在采用后明显上升，且后续被删除或回滚的代码比例未见恶化。 报告称，到 2026 年 8 月，员工部署的交互式 AI 智能体工作时长已达人类员工的 6 倍；早在 3 月，全公司智能体总工时就首次超过人工工时。IT之家附上相关图片如下： 各职能部门生产率激增。注：采用 Loess 平滑法对基础指数化产出数据进行拟

匹配字段正文

论则有所下降。招聘经理越来越多地根据申请人的判断力和投入程度来评估他们，而不是根据已被AI工具自动化的领域特定技能和执行能力。 雇主可以做什么 AI在Anthropic的深度应用使其成为一个有用的案例。随着AI的扩散和进步，工作组织方式可能会像以往的技术变革浪潮中那样发生转变。铁路带来了管理型公司，蒸汽动力催生了工厂，个人电脑则孕育了初创企业。使用工具、具备推理能力的LLM将需要什么样的新组织，而我们又将在其中扮演什么角色？一种可能是单人初创企业，每家公司由一位人类创始人掌舵，指挥一群智能体赚取数十亿美元的收入。另一种可能是由AI天才CEO建立的公司，只雇佣人类智能体来操作移液管和在国会作证。 Anthropic 与这两种情况都不相似。过去一年，其规模增长了两倍。它已不再是一家小型初创公司。它也没有将高管控制权让渡给其模型。书面的 Slack 辩论和线下会议主导着从公司战略到团队决策的一切，AI 智能体的参与极少。让人类工作在全公司范围内保持可见，确保自主智能体能够基于最新上下文进行推理。从所需知识和工作相互依赖性的角度看，协调智能体团队的个体贡献者更像管理者。在一家 AI 密集型的组

匹配字段正文

计算掉。这能释放量子比特，但如果之后又需要这些结果，电路就必须重新计算它们，这会增加门操作并延长运行时间。另一种极端做法是，电路保留中间结果，直到不再需要为止。这避免了重复计算，但可能需要多得多的量子比特。 正因如此，量子电路设计成为对 Claude 能力的一次格外有趣的考验。电路可以用普通代码编写，但要改进它们，模型必须在一套与普通编程截然不同的约束下进行推理。 第一个严峻考验：模逆运算 我们交给 Claude 的第一个任务是点加法，即把数学曲线（椭圆曲线）上的两个点组合成第三个点的规则。点加法是椭圆曲线上离散对数问题量子算法的核心步骤：给定一个起始点以及将它自身相加 n 次所得的结果，求出 n。对于大型曲线，普通计算机无法在合理时间内解决这个问题，但足够大的量子计算机可以。 这些算法会多次执行点加法，包括反向执行，而这些加法构成了它们量子比特和运行时间成本的大部分。像这样——易于计算、极难逆转——的问题，正是最早被证明量子计算机能比普通计算机提供指数级加速的问题之一。由于这些原因，点加法已成为该领域的标准基准之一。这使它成为对 Claude 的一项严苛考验。因此，我们要求它规划出点

匹配字段正文

确回答了 23.3%。 一个未指明的 AI 模型被用来将上述数据集中 FDA 标签条款改写为可单独测试的事实陈述，每一条随后都经过人工审核 。 所测试的开放权重模型配置包括来自 Z.ai 的 GLM-5.3-Flash；OpenAI 的 gpt-oss-120b 和 gpt-oss-20b；Google DeepMind 的 gemma-4-31b（分别在有推理和无推理情况下测试）；以及 Qwen 的 qwen3-8b。 开放权重模型和 GPT-5.6 Luna 获得了相同的网络搜索结果，以便公平比较它们的回答。Luna 还使用其自带的网络搜索单独进行了测试。 在225条事实中，有223条事先使用Brave Search收集了十条搜索结果。每个模型都收到相同的结果，并可使用相同的工具打开页面或在其中搜索。 包含“正确”答案的页面始终可用——如果它自然出现在前十条结果中，其位置保持不变；否则，它会被插入到事先确定的位置，使研究人员能够在可比条件下考察模型如何利用现有证据。 为使测试更加一致，对支持该设置的模型将温度设为零，且在整个实验过程中，每个模型都通过同一提供商运行。 提示词形式 用

匹配字段正文

认为，这标志着中国科学家首次用中国大模型攻克世界级数学难题。 “Ghys猜想”由法国数学家艾蒂安·吉斯（Étienne Ghys）于1995年提出，猜测每一个紧致复流形上的全纯Anosov系统，都双全纯共轭于某个复infra-幂零流形上的全纯仿射自同构。该问题兼具理论难度与学科标志性价值，被动力系统领域数学专家公认为该领域最重要的长期公开问题之一，是检验数学推理能力的一块试金石。 相关论文已在预印本平台（arXiv）发布，其形式化代码也在Github平台公开。 Ghys猜想，为混沌系统寻找“底层代码” 1995年，法国数学家艾蒂安·吉斯（Étienne Ghys）提出Ghys猜想，其核心是：混沌的动力系统行为的存在是否能决定几何上的分类。 这是复动力系统领域的一个重要难题。如果这一猜想成立，混乱的动力学轨迹的问题就能被“化归”成简洁、规整的标准代数模型。 如何理解Ghys猜想？可以想象在一个封闭有限、没有边界、每一小块都遵守复数运算规则的“世界”。 对Anosov系统，可借助揉面类比：按压、延展、折叠面团，部分方向被拉伸，部分方向被压缩。拉伸效应会让初始紧邻的点快速分离——初始条件微小

匹配字段正文

像头观察场景，其中3个摄像头安装在桌子周围，另一个安装在机械臂的腕部。 观察完场景之后，模型还可以在隔离的代码运行环境中编写并运行代码，用于进行运动规划，并将运动指令发送给机械臂。 ▲AA-Robotics v0.1任务流程 在AA-Robotics v0.1评测中，主要包含8项桌面操作任务，包括 控制与灵巧操作，精准抓取和操作物体，例如进行积木整理； 空间推理，理解不同物体之间如何相互作用，例如把饮料倒进杯子里； 适应能力，用于评估模型面对意外情况时的应对能力。 ▲桌面操作任务 当模型提交任务后，系统会根据任务设定的通过标准对最终状态进行评分。 完成任务可获得100分，如果任务没有完全完成，则会根据完成程度获得相应的部分分数。 在评测过程中，所有任务均尝试采用零样本（zero-shot）方式进行，模型没有针对每项任务进行专门训练，只是根据任务要求完成操作。 二、模型能控制机械臂，但问题在于操作时间过长 从测试过程来看，模型已经能够控制机械臂了，目前问题在于，模型控制机械臂完成任务需要花费大量的时间和成本。 评测结果显示，目前的语言模型完成AA-Robotics v0.1任务的速度，大

匹配字段正文