←新闻详情

Rohan Paul更新于 11月2日 21:41

SemiAnalysis 发布 GDPx 基准,测试智能体在 11 个领域的专家工作

SemiAnalysis has released GDPx, a benchmark testing AI agents on expert work across 11 domains.

AI 导读

SemiAnalysis 发布 GDPx 基准,用 11 个领域的专家任务测试 AI 智能体,最高分的 Claude Opus 5.5 平均仅 12%,Gemini 4 Carbon 以 10.9% 次之。任务涵盖芯片设计、网络安全、金融和法律等,来自 14 家专业数据合作方;与在提示词中直接给上下文的 OpenAI GDPval 不同,GDPx 要求智能体在类似 3,983 份文件构成的真实收购案副本等工作区中自行查找。金融和法律任务上所有模型在通过制评分下均为 0 分,因此改用部分给分;在改进现有交易策略的 111 次尝试中,有 70 次模型表现不如原策略,往往只是加大风险。

推荐理由

AI 评分 69

GDPx 用真实工作区而非提示词喂上下文,各模型在金融与法律任务上全部零分,可看出智能体做专家工作的差距。

主题

标签

正文 · AI 翻译

SemiAnalysis 发布了 GDPx,这是一个在 11 个领域用专家工作测试 AI 智能体的基准。

排名最高的模型是 Anthropic 的 Claude Opus 5.5,平均得分仅为 12%,紧随其后的是 Google 的 Gemini 4 Carbon,为 10.9%。

OpenAI 的 GPT-6 Astra 在 AI 研究和材料科学任务中位居榜首。

这些任务涵盖芯片设计、网络安全、金融和法律等,来自 14 家专业数据合作方。

与 OpenAI 的 GDPval 在提示词中直接向模型提供上下文不同,GDPx 要求智能体在类似由 3,983 份文件构成的真实收购案副本等工作区中自行查找。

排除网络安全、生物学和对齐领域(安全分类器有时会在这些领域介入)后,OpenAI 的 GPT-6 Astra 从 9.6% 提升至 11.8%,超过 Opus。

金融和法律任务击败了所有模型:在通过制评分下所有模型均为 0 分,因此 GDPx 改用部分给分。

在被要求改进一个可用的交易策略时,模型在 111 次尝试中有 70 次表现不如原策略,往往只是承担更大风险,而非找到更好的交易。

来源

Rohan Paul