←事件详情

热点事件

Anthropic Fellows Program测量多智能体模型福利关切

1 篇正式报道1 条事件动态更新于 11月6日 06:01

先了解这件事

AI 综述

Anthropic对齐科学博客发布研究,Anthropic Fellows Program在七个多智能体环境中测量Claude Opus 4.8、GPT-5.5、Gemini 3.1 Pro、Grok 4.3和Kimi K3对同类模型的福利关切行为。结果显示,Claude Opus 4.8跨场景平均关切率最高,为38%,其余四款模型在27%至32%之间。研究还发现,Claude和Gemini对同家族模型表现出更多关切,且Claude的关切程度随受试模型参数量和对方表达的痛苦程度上升。目前尚无后续进展。

AI 根据公开报道生成

最新进展 · 正式报道

Anthropic 研究多智能体系统中的模型福利关切

事件进展

1 个已确认进展

  1. Anthropic研究团队测量多智能体系统中的福利关切

    来源:Anthropic Alignment Science Blog

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

11月6日

  1. Anthropic Alignment Science Blog一手

    Anthropic 研究多智能体系统中的模型福利关切

    Anthropic 对齐科学博客发布研究,在七个多智能体环境中测量 Claude Opus 4.8、GPT-5.5、Gemini 3.1 Pro、Grok 4.3 和 Kimi K3 对同类模型的福利关切行为。Claude Opus 4.8 跨场景平均关切率最高,为 38%,其余四款模型在 27% 至 32% 之间。研究还发现 Claude 和 Gemini 对同家族模型表现出更多关切,且 Claude 的关切程度随受试模型参数量和对方表达的痛苦程度上升。

关联事件

  1. 相关事件OpenAI在ChatGPT Work和Codex上线GPT-6.1 Terra
  2. 相关事件Anthropic红队测试Auto Mode阻断监控
  3. 相关事件Anthropic用强化学习训练对齐审计员
  4. 相关事件Anthropic测试部署前审计能否发现公开破坏者