Google Gemini 4 Argon 在 ARC-AGI-3 得分 97.5%,但换测试环境后降至 49.8%
Google's Gemini 4 Argon is closer to the AI frontier than any Google model in months
Google DeepMind 的新前沿模型 Gemini 4 Argon 在 ARC-AGI-3 上以 Provider Adapter Harness 测试环境取得 97.5%,成本 4800 美元,成为继 OpenAI 之后第二个跨过 95% 的实验室,仅次于 GPT-6 Astra 的 99.9%。在只允许简单笔记的 Standard Harness 下,低推理档得分降至 49.8%,且因 API 问题未能跑完全部 55 个游戏。Epoch AI 的 ECI 指数上 Argon 得 165 分,与 Fable 5.1 持平,但在数学 ECI 排第八、软件工程指数排第六。
推荐理由
AI 评分 71
同一模型在不同测试环境下分数从 97.5% 跌到 49.8%,读者可据此理解基准成绩对测试设置的依赖。
主题
正文 · AI 翻译
Google Deepmind 是第二个在 ARC-AGI-3 基准测试中突破 95% 的主要 AI 实验室。但据 Epoch AI 称,结果在很大程度上取决于测试方法,而且 Argon 在数学和软件工程方面落后于竞争对手。
Google Deepmind 的新前沿模型 Gemini 4 Argon 在使用“Provider Adapter Harness”的情况下,以 4,800 美元的成本在 ARC-AGI-3 上取得了 97.5% 的得分;该测试环境使用了供应商特定的功能,例如保留推理和上下文压缩。据 ARC Prize 称,在被广泛认为是通用问题求解最困难基准的这项测试中,Google 现在是继 OpenAI 之后第二个跨过 95% 门槛的 AI 实验室。只有 GPT-6 Astra 得分更高,为 99.9%。
与 Astra 一样,在 25 个公开游戏中,Argon 所需的操作次数比人类基线少 62%。它在三个游戏中追平或打破了速通纪录,并在另外六个游戏中与最佳用时相差不到 10%。在该基准的旧版本上,基于每百万输入 token 2 美元、每百万输出 token 10 美元的 introductory price,Argon 在 ARC-AGI-2 上得分 91.3%(每任务 0.32 美元),在 ARC-AGI-1 上得分 98.5%(每任务 0.16 美元)。
基准测试结果在很大程度上取决于测试环境
在仅允许轮次之间进行简单笔记的“Standard Harness”中,Argon 在低推理档下得分降至 49.8%,成本为 5,800 美元。这一差距可追溯到 2026 年 7 月的一场争议,当时 OpenAI 的 GPT-5.6 Sol 使用两项 API 设置,在 ARC-AGI-3 上击败了 Claude Opus 5。
GPT-5.6 Sol 在标准环境中仅取得 7.8% 的得分,该环境会在每次操作后丢弃内部推理,并且使用的是缺少较新 Claude API 功能的旧接口。这意味着 Claude 是在与 GPT-5.6 不同的条件下接受测试的。当使用 OpenAI 自家的 Responses API(包括“Retained Reasoning”和智能上下文“Compaction”)进行测试时,该模型跃升至 38.3%,击败了得分为 30.2% 的 Opus 5。OpenAI 认为,基准测试始终也在衡量技术环境。ARC Prize 联合创始人 Francois Chollet 随后允许使用通用的、公开可用的 API 设置。
据测试人员称,API 问题还导致 Argon 无法在 Standard Harness 中完成全部 55 个游戏。在低推理档下,该系统完成了 42 个游戏(49.8%),在中推理档下完成了 46 个游戏(46.3%)。在最高档下,它仅完成了 19 个游戏,因此 ARC Prize 未公布得分。报告的结果仍通过计入中止运行的部分得分,覆盖了全部 55 个游戏。
Argon 缩小了差距,但在数学和编程方面落后
研究机构 Epoch AI 也追踪了 Google 的进展。Argon 在 Epoch Capabilities Index(ECI)上得分 165 分,与 Fable 5.1 持平,仅落后于 Opus 5.5(167 分)和 GPT-6 Astra(166 分)。ECI 将 50 多个基准整合为一个单一能力量表,类似于 Artificial Analysis 构建其主要得分的方式。
Argon 大幅领先于 Gemini 3.8 Flash(157 分),并使 Google 比自 2 月 Gemini 3.1 Pro 以来的任何时候都更接近榜首。Artificial Analysis 和 Vals.ai 此前已证实了这一趋势。
不过,性能因领域而异。据 Epoch AI 称,Argon 在多项知识、智能体和视觉基准上领先,但早期估计显示,它在数学 ECI 上排名第八,在软件工程指数(SWE ECI)上排名第六。