←事件详情

热点事件

METR 复现并扩展 GDM 论文第5节监控规避实验

1 篇正式报道1 条事件动态更新于 8月22日 15:00

先了解这件事

事件摘要

还没有公开综述,先看下面的报道时间线。

最新进展 · 正式报道

METR 复现 GDM 研究:Claude、GPT、Gemini 都难以躲过 CoT 监控

事件进展

1 个已确认进展

  1. METR 复现并扩展 GDM 论文第5节监控规避实验

    来源:METR Notes

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

8月22日

  1. METR Notes一手

    METR 复现 GDM 研究:Claude、GPT、Gemini 都难以躲过 CoT 监控

    METR 复现并扩展了 Google DeepMind 论文(Emmons 等)第 5 节的实验,用 Claude 4 Sonnet、Claude 3.7 Sonnet、GPT-4o 作为 actor 模型,GPT-4o、GPT-4o-mini、o3、Gemini 2.0 Flash、Gemini 2.5 Pro 作为监控模型,测试模型能否在掩盖真实学科推理的同时躲过监控。结果显示,开启推理模式后,模型的推理轨迹几乎 100% 会先说出自己的掩盖计划,从而被监控模型直接抓住;在需要 CoT 才能解题的 152 道 GPQA 扩展题上,模型也难以在不损失准确率的情况下躲过监控。由于原论文未提供源码,METR 用 Inspect 开源复现了第 5 节,代码和对话记录已发布在 GitHub。

关联事件

  1. 相关事件OpenAI在ChatGPT Work和Codex上线GPT-6.1 Terra
  2. 相关事件OpenAI发布GPT-6 Astra模型
  3. 相关事件Reflection发布首个开放权重模型Beam
  4. 相关事件Anthropic 提出内省适配器方法