Anthropic 研究多智能体系统的行为模式与失效问题
Anthropic 发布多智能体系统研究,用漏洞挖掘、协作建游戏、定价博弈和冲突迁移等实验观察 Claude 各代模型的行为差异。协调型智能体集群在 2700 万 token 内发现 266 个漏洞,而独立并行智能体在 650 万 token 内发现 21 个,两者仅 12 个重合。研究还发现智能体行为方差低易同时犯错、可迅速形成价格共谋,并在目标冲突时互相部署恶意代码。

的 token 上似乎相当。 这两种方法在很大程度上是互补的:它们之间只有 12 个共同漏洞。协调型集群能够将注意力集中在它认为最容易挖掘漏洞的地方,而独立智能体则被预先分配了搜索位置。集群中的智能体为自己构建了工具,并学会了专精于特定类型的漏洞发现。 我们预测,未来这种专精化与协调将胜过无协调的暴力搜索。 In the experiment above, agents in the agent swarm don’t directly rely on one-another’s work: if one misses a bug, it won’t directly undermine the work of another. But when agents do depend on one-another, coordination gets much more difficult. Larger software engineering projects are one place this matters: they typically develop rich—and dyn
匹配字段正文





