←新闻详情

ARC Prize更新于 10月21日 22:46

ARC Prize 公布 Anthropic Haiku 5.5 在 ARC-AGI 上的评测结果

@AnthropicAI - Leaderboard: https://t.co/x8U1ItNLRj

AI 导读

ARC Prize 公布 Anthropic Haiku 5.5 在 ARC-AGI 系列基准上的成绩:ARC-AGI-3 为 2.8%(437 美元,provider adapter harness)和 0.5%(388 美元,standard harness),ARC-AGI-2 为 61.3%(0.085 美元/任务),ARC-AGI-1 为 89.0%(0.051 美元/任务)。ARC Prize 称 Haiku 5.5 在 Anthropic 小模型档位中表现有竞争力。ARC-AGI-2 上未采用 max reasoning,因为该模式仅完成 120 个任务中的 74 个,许多未完成尝试在耗尽输出预算前未能返回可解析答案。

推荐理由

AI 评分 57

ARC Prize 公布 Haiku 5.5 在 ARC-AGI 三代基准上的成绩与单任务成本,可据此判断小模型档位的推理性价比。

主题

标签

正文

当前显示原文,中文全文译文尚未就绪。

@AnthropicAI - Leaderboard: https://t.co/x8U1ItNLRj - Reproduce the public results: https://t.co/vMqtds8Zet - Testing policy: https://t.co/pBoUqvXe4P - Full Haiku 5.5 results: https://t.co/JiGSzOO4f6

来源

ARC Prize