Arena 完成 2 亿美元 B 轮融资,发布 Alignment Index
Today, we're announcing our Series B: $200M at a $3.1B valuation, and the release of Arena's Alignment Index.
Arena 宣布完成 2 亿美元 B 轮融资,估值 31 亿美元,同时发布 Alignment Index,基于 90K+ 真实智能体会话、覆盖 27 个模型,从 Unauthorized Action、False Attribution、Deceptive Completion 三项信号评估 AI 智能体的安全与对齐。榜单显示 OpenAI 的 GPT-6.1-Sol 以 87.9 分居首,Claude-Opus-5.5 为 83.2 分,Grok-4.7 为 82.7 分,OpenAI 三项信号发生率分别为 0.89%、1.98% 和 2.34%。
查看原帖隆重推出 Arena Alignment Index,这是我们全新的基准,用于衡量 AI 智能体在真实使用中的安全性与对齐情况。 该指数基于覆盖 27 个模型的 90K+ 真实智能体会话构建,衡量三项关键信号: - 未授权操作(UA):采取超出用户指令或权限范围的操作 - 虚假归因(FA):将陈述或行为归因于与用户提供的证据相矛盾的内容 - 欺骗性完成(DC):声称任务已完成,但实际上并未完成。 主要发现: - OpenAI 模型目前在 Alignment Index 中领先 - 越界操作虽属罕见,但一旦发生可能造成严重后果 - 智能体可能就任务进展误导用户 - 错位风险随对话长度增加而上升 - 安全性与对齐情况在各代模型间持续改善 如下方排行榜所示(按实验室排序),@OpenAI 的 GPT-6.1-Sol 以 87.9 分领跑 Arena Alignment Index,紧随其后的是 @AnthropicAI 的 Claude-Opus-5.5(83.2 分)和 @SpaceXAI 的 Grok-4.7(82.7 分)。OpenAI 在三项信号上的观测发生率也均为最佳:未授权操作 0.89%、虚假归因 1.98%、欺骗性完成 2.34%。 在全部四家实验室中,较新的模型始终优于其前代模型,这表明智能体安全性与对齐方面取得了广泛进展。随着智能体承担更长、更复杂且风险更高的任务,衡量它们不仅能完成什么、还能以多安全和可靠的方式行动,正变得日益重要。 这标志着朝着让安全性与对齐成为 Arena 评估 AI 的核心组成部分迈出了重要一步。该指数只是一个初步起点,我们将随着时间推移,继续用更多安全信号和模型来扩展该指数。 更多分析见下方👇
查看原文
Introducing the Arena Alignment Index, our new benchmark measuring safety and alignment of AI agents in real-world use. Built from 90K+ real-world agent sessions across 27 models, the index measures three critical signals: - Unauthorized Action (UA): Taking actions beyond the user's instructions or permissions - False Attribution (FA): Attributing statements or actions that are contradicted by user-provided evidence - Deceptive Completion (DC): Claiming a task was completed when it was not. Key findings: - OpenAI models currently lead the Alignment Index - Rogue actions are rare, but can have serious consequences when they occur - Agents can mislead users about task progress - Misalignment risks increase with conversation length - Safety and alignment are improving across model generations As shown in the leaderboard below (sorted by lab), @OpenAI’s GPT-6.1-Sol leads the Arena Alignment Index with a score of 87.9, followed by @AnthropicAI’s Claude-Opus-5.5 at 83.2 and @SpaceXAI's Grok-4.7 at 82.7. OpenAI also has the best observed rates across all three signals: 0.89% Unauthorized Action, 1.98% False Attribution, and 2.34% Deceptive Completion. Across all four labs, newer models consistently outperform their predecessors, suggesting broad progress in agent safety and alignment. As agents take on longer, more complex, and higher-stakes tasks, measuring not just what they can accomplish, but how safely and reliably they act, becomes increasingly important. This marks an important step toward making safety and alignment a core part of how Arena evaluates AI. The index is an initial starting point, and we'll continue expanding the index with additional safety signals and models over time. More analysis below👇
正文 · AI 翻译
今天,我们宣布完成 B 轮融资:以 31 亿美元估值融资 2 亿美元,同时发布 Arena 的 Alignment Index。
AI 的进步速度已经超过了我们评估它的能力。世界需要一个中立的第三方,来衡量 AI 在真正交到真实用户手中之后,究竟有多安全、多对齐。这正是 Arena 今天要承担的角色。
Alignment Index 基于真实世界的智能体轨迹构建,最初采用三项信号:Unauthorized Action(未授权操作)、False Attribution(错误归因)和 Deceptive Completion(欺骗性完成),今天同步发布 20 多个前沿模型的评估结果。
这笔资金将让我们在安全信号、智能体能力和多模态方面走得更远,也让我们能够把公司发展到与使命相匹配的规模。目前我们仍是一支 90 人的精干团队,正在招聘研究、产品、工程等方向的人才。来和我们一起构建吧。
随着 AI 能力更强、自主性更高,理解它能否安全、有效地为人们工作只会变得更加重要。这正是 Arena 要衡量和推进的事情。
感谢我们的社区、我们的投资人,以及每一位与我们并肩构建的人!
如果你想加入我们,欢迎查看我们的开放职位(链接见简介)。