AI News

热点事件

ARC Prize公布Claude Fable 5.2的ARC-AGI评测结果

5 篇正式报道5 条事件动态更新于 11月10日 03:13

先了解这件事

AI 综述

ARC Prize公布Anthropic的Claude Fable 5.2在ARC-AGI系列基准上的评测成绩。ARC-AGI-3在标准测试框架下得分81.2%、成本21.9K美元,在provider adapter harness下为97.7%、18.6K美元;ARC-AGI-2为93.8%、每任务0.98美元;ARC-AGI-1为98.5%、每任务0.36美元。ARC Prize称Fable 5.2在标准harness下刷新ARC-AGI-3最高分,其ARC-AGI-2的93.8%为已见模型第三高,仅次于GPT-6 Astra的95.0%和GPT-6.1 Sol的94.2%。在max推理档位加标准harness时,55个半私有游戏中有28个触及12小时运行上限,得分65.7%,低于xhigh档的81.2%。

AI 根据公开报道生成

最新进展 · 正式报道

ARC Prize 公布 Claude Fable 5.2 在 ARC-AGI 系列上的评测结果

事件进展

1 个已确认进展

  1. ARC Prize公布Claude Fable 5.2在ARC-AGI上的评测结果

    来源:ARC Prize

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

11月10日

  1. ARC Prize一手

    ARC Prize 公布 Claude Fable 5.2 在 ARC-AGI 系列上的评测结果

    ARC Prize 公布 Anthropic 的 Claude Fable 5.2 在 ARC-AGI 系列上的成绩:ARC-AGI-2 得分 93.8%,每任务成本 0.98 美元,在已见模型中排第三,低于 GPT-6 Astra 的 95.0% 和 GPT-6.1 Sol 的 94.2%。ARC-AGI-1 得分 98.5%,每任务成本 0.36 美元;ARC-AGI-3 在标准 harness 下得分 81.2%,成本 21.9K 美元,在 provider adapter harness 下得分 97.7%,成本 18.6K 美元,并在标准 harness 下创下 ARC-AGI-3 新高。ARC Prize 还说明,max 推理档在标准 harness 下有 28/55 个半私有游戏触及 12 小时运行上限,得分 65.7%,低于 xhigh 档的 81.2%。

  2. ARC Prize一手精选

    ARC Prize 公布 Claude Fable 5.2 在 ARC-AGI 上的评测结果

    ARC Prize 公布 Anthropic 的 Claude Fable 5.2 在 ARC-AGI 系列基准上的成绩:ARC-AGI-3 标准 harness 下得分 81.2%、成本 21.9K 美元,provider adapter harness 下为 97.7%、18.6K 美元;ARC-AGI-2 为 93.8%、每任务 0.98 美元,ARC-AGI-1 为 98.5%、每任务 0.36 美元。ARC Prize 称 Fable 5.2 在标准 harness 下刷新 ARC-AGI-3 最高分,其 ARC-AGI-2 的 93.8% 是已见模型第三高,仅次于 GPT-6 Astra 的 95.0% 和 GPT-6.1 Sol 的 94.2%。在 max 推理档位加标准 harness 时,55 个半私有游戏中有 28 个触及 12 小时运行上限,得分 65.7%,低于 xhigh 档的 81.2%;已发布的 Fable 5.2 在 medium 和 xhigh 档的调优与此前评测的 checkpoint 不同,low、high、max 档未变。

  3. ARC Prize一手精选

    ARC Prize 公布 Claude Fable 5.2 在 ARC-AGI 各版本上的评测成绩

    ARC Prize 公布 Anthropic 的 Claude Fable 5.2 在 ARC-AGI 上的成绩:ARC-AGI-3 标准测试框架下得分 81.2%、成本 21.9K 美元,ARC-AGI-2 为 93.8%、每任务 0.98 美元,ARC-AGI-1 为 98.5%、每任务 0.36 美元。ARC-AGI-2 的 93.8% 是其见过的第三高模型分数,仅次于 GPT-6 Astra 的 95.0% 和 GPT-6.1 Sol 的 94.2%。在 max 推理档位下,55 个半私有游戏中有 28 个触及 12 小时运行上限,得分 65.7%,低于 xhigh 档的 81.2%。

  4. ARC Prize一手

    ARC Prize 公布 Claude Fable 5.2 在 ARC-AGI 三项基准的验证成绩

    ARC Prize 公布 Anthropic 的 Claude Fable 5.2 在 ARC-AGI 上的验证成绩:ARC-AGI-3 标准 harness 下得分 81.2%、成本 $21.9K,provider adapter harness 下为 97.7%、$18.6K,并在标准 harness 下刷新 ARC-AGI-3 最高分。ARC-AGI-2 得分 93.8%、$0.98/task,ARC-AGI-1 得分 98.5%、$0.36/task。ARC Prize 还说明,max 推理档在标准 harness 下 55 个半私有游戏中有 28 个触及 12 小时运行上限,得分 65.7%,低于 xhigh 档的 81.2%。

  5. ARC Prize一手

    ARC Prize 评测 Claude Fable 5.2:ARC-AGI-3 标准 harness 得分 81.2%

    ARC Prize 公布 Anthropic Claude Fable 5.2 在 ARC-AGI 系列基准上的成绩:ARC-AGI-3 在标准 harness 下得分 81.2%、成本 21.9K 美元,在 provider adapter harness 下为 97.7%、18.6K 美元;ARC-AGI-2 为 93.8%、每任务 0.98 美元,ARC-AGI-1 为 98.5%、每任务 0.36 美元。在 max 推理档下,55 个半私有游戏中有 28 个触及 12 小时运行时限,得分 65.7%,低于 xhigh 档的 81.2%,ARC Prize 认为若无时限 max 档会更高。ARC Prize 还说明,已发布的 Fable 5.2 在 medium 和 xhigh 推理档上的调优与早前评测的 checkpoint 不同,low、high、max 档未变。

关联事件

  1. 相关事件Anthropic在Claude Platform和Claude Code上线Fable 5.2
  2. 相关事件Artificial Analysis称Meta新模型Muse Ember智能指数得36分
  3. 相关事件Anthropic推出Claude Fable 5.2与Claude Mythos 5.2
  4. 相关事件Google DeepMind发布Gemini 4 Carbon模型