ARC Prize 公布 Anthropic Haiku 5.5 在 ARC-AGI 上的评测结果
@AnthropicAI - Leaderboard: https://t.co/x8U1ItNLRj
AI 导读
ARC Prize 公布 Anthropic Haiku 5.5 在 ARC-AGI 系列基准上的成绩:ARC-AGI-3 为 2.8%(437 美元,provider adapter harness)和 0.5%(388 美元,standard harness),ARC-AGI-2 为 61.3%(0.085 美元/任务),ARC-AGI-1 为 89.0%(0.051 美元/任务)。ARC Prize 称 Haiku 5.5 在 Anthropic 小模型档位中表现有竞争力。ARC-AGI-2 上未采用 max reasoning,因为该模式仅完成 120 个任务中的 74 个,许多未完成尝试在耗尽输出预算前未能返回可解析答案。
推荐理由
AI 评分 57
ARC Prize 公布 Haiku 5.5 在 ARC-AGI 三代基准上的成绩与单任务成本,可据此判断小模型档位的推理性价比。
主题
正文
当前显示原文,中文全文译文尚未就绪。
@AnthropicAI - Leaderboard: https://t.co/x8U1ItNLRj - Reproduce the public results: https://t.co/vMqtds8Zet - Testing policy: https://t.co/pBoUqvXe4P - Full Haiku 5.5 results: https://t.co/JiGSzOO4f6