Hugging Face 政策负责人：嵌入式 AI 评估器并非易行的解决方案

AI实验室已经将自己的声誉押注在模型基准测试上——这套据称中立且准确的评估体系旨在衡量一款AI产品是否优于另一款。

然而，Hugging Face首席政策官Irene Solaiman上周在TechCrunch Disrupt的一场讨论中表示，这些评估背后的方法复杂且仍在成熟之中。如果业界未来要依赖这些测试，测试就需要整合为一门更加一致的 science。

有鉴于此，我们能否信任目前发布的这些测试？

“信任是一个分量很重的词，”Solaiman说。“就我们能否信任结果而言，其中一个重要部分[在于]你能否复现一项评估的结果？你是否拥有所需的模型访问权限——这正是开放权重发挥重要作用的地方，”她补充道。

模型评估中的可复现性长期以来一直是基准测试中较为棘手的问题之一——并且仍然是业界激烈争论的话题。

除了单项测试本身的有效性之外，还有一个额外问题：该测试与其他评估相比如何。

“它们是一门不断演进的科学——我们尚不知道如何有意义地将它们相互比较，”Solaiman说。

“它们相对较快地开始变得失效，而我们并没有所需的那样一个蓬勃发展的生态系统，”她补充道。“现在人们对嵌入式评估器生态系统有着强烈需求，但决定谁能在哪些任务上成为有效评估者的资质标准需要大幅提高标准化程度。”

嵌入式评估器——即把据称“中立”的第三方观察者安置在AI组织内部——这一理念在过去几个月里逐渐流行起来，因为AI实验室正忙于应对一连串安全事件，这些事件引发了人们对其技术潜在危害的担忧。Hugging Face就曾著名地成为其中一起事件的目标。

实验室没有推动积极的政府监管来识别和缓解模型安全担忧，而是力推第三方解决方案。然而，这些评估器实际上会有多中立或多有效，仍存疑虑。Anthropic决定聘请埃森哲作为其首家评估机构，引发了大量反弹，一些批评者嘲讽这家咨询公司有资格完成手头任务的想法。

评估如今正从仅仅测试模型本身，转向测试模型周围的整个系统——包括harness和智能体。Solaiman分享道，具体而言，harness——即用户用来访问模型的工具——与模型性能有很大关系，而一个较弱模型搭配更好的harness，很容易超越一个前沿模型。

“智能体评估真的很难，而且真的很昂贵，”Solaiman说。“我们针对模型的评估只是更多。……我们针对harness的评估没有那么多，而我们正在为整体智能体开发更好的评估——因为很多人正从中获得价值，”她补充道。

换句话说，评估领域目前有些各行其是，如果基准测试要继续被视为行业领导者的有用工具，可能就需要一种更统一、全行业一致的方法——让所有人达成共识。