←新闻详情

Rohan Paul更新于 10月30日 14:34

Google 新论文提出 PLE 基准:最强智能体在实体工程任务上仅得 50.6%

New Google paper finds that the best AI agent scores only 50.6% on physical engineering jobs, often by missing a hard safety or feasibility rule.

AI 导读

Google 新论文提出 PLE 基准,包含 85 个由执业工程师编写或核验的电气、土木、结构和机械工程任务,最强智能体仅得 50.6%。Claude Opus 5.5 在 Claude Code 中以 50.6% 在 14 个模型中居首,每个任务消耗 27M tokens、耗时 63 分钟,需阅读约 61 个项目文件并交付进度表、报告或 2D/3D 图纸。在设计任务中其输出满足 91% 的约束,但只有 41.3% 满足全部硬性约束。

推荐理由

AI 评分 54

Google 的 PLE 基准用 85 个真实工程任务测出智能体在硬性安全约束上的短板,对做工程智能体的人有直接参考。

主题

标签

正文 · AI 翻译

Google 新论文发现,表现最好的 AI 智能体在实体工程任务上仅得 50.6%,失分往往是因为遗漏了某项硬性的安全或可行性规则。

面向大语言模型的工程基准大多测试的是教科书式问题或玩具问题,而顶尖智能体早已能很好地应对这些。真正的工程师要处理成堆的 PDF、电子表格和 CAD 文件,并且必须交付符合规范、成本可控的设计。

他们构建了 PLE,包含 85 个电气、土木、结构和机械工程任务,均由执业工程师编写或核验。智能体在每个任务中必须阅读约 61 个项目文件,并交付进度表、报告或 2D 和 3D 图纸。

Claude Code 中的 Claude Opus 5.5 以 50.6% 的成绩在 14 个模型中位居榜首,每个任务消耗 27M tokens、耗时 63 分钟。在设计任务中,其输出满足了 91% 的约束,但只有 41.3% 满足全部硬性约束。

如果你要构建工程智能体,请对每一项设计都以硬性安全和规范限制作为把关条件,并在调优智能体脚手架之前,先在模型选择上下功夫。

来源

Rohan Paul