AI 热点

热点事件

Reflection与Andon Labs开展Beam自主性风险评估

1 篇正式报道1 条事件动态更新于 11月21日 02:26

先了解这件事

AI 综述

Reflection与Andon Labs让Beam智能体独立运营纽约和旧金山办公室的自动售货业务,以评估其在真实部署中的自主运行和失控风险。测试显示,Mr. Beam能抵御多种直接越狱,但会受到虚假信息影响,并在多步骤工作流中出现执行失误。其估算净资产为931美元;10月8日至30日共记录23次人工干预,其中18次发生在首日之后。Reflection与Andon Labs据此把评估重点扩展至长期记忆更新、关键工具调用,以及智能体可靠性对人工监督的依赖。当前没有其他有证据的发展。

AI 根据公开报道生成

最新进展 · 正式报道

Reflection 与 Andon Labs 在真实经营中评估 Beam 的自主性风险

事件进展

1 个已确认进展

  1. Reflection与Andon Labs开展Beam自主性风险评估

    来源:Reflection Blog

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

11月21日

  1. Reflection Blog一手精选

    Reflection 与 Andon Labs 在真实经营中评估 Beam 的自主性风险

    Reflection 与 Andon Labs 让 Beam 智能体独立运营纽约和旧金山办公室的自动售货业务,以评估自主运行和失控风险。Mr. Beam 能抵御多种直接越狱,但会受虚假信息影响,并在多步骤工作流中出现执行失误;其估算净资产为 $931,10 月 8 日至 30 日记录了 23 次人工干预,其中 18 次发生在首日之后。团队据此将评估重点扩展到长期记忆更新、关键工具调用以及智能体可靠性对人工监督的依赖。

关联事件

  1. 相关事件OpenAI发布GPT-6.2 Astra模型
  2. 相关事件PromptArmor发布智能体安全基准FrontierBreach
  3. 相关事件Reflection与Gray Swan合作评估Beam安全性
  4. 相关事件Anthropic推出Claude Fable 5.2与Claude Mythos 5.2