Anthropic 与律所探讨 AI 智能体谈判规则

AI 开发商 Anthropic 正在着手解决一个迄今既无技术标准、也无法律框架的问题：自主 AI 智能体应如何代表其用户彼此谈判——例如就价格、薪资或合同进行协商？据《金融时报》的知情人士消息，该公司正为此与律师事务所进行商谈。其目的很可能是理解律师如何代理客户利益并力求达成公平结果，再将这些原则迁移到 AI 智能体上。因为人们预计，未来智能体将越来越频繁地代表用户就实质性问题进行谈判——考虑到市场上个人 AI 智能体日益增多，这并非不太可能。

广告之后继续阅读

据《金融时报》的知情人士消息，Anthropic 目前正在研究模型互动中的这类“谈判规范”。消息人士称，该公司还在权衡智能体在谈判中应在多大程度上征求人类反馈，以及智能体应对 AI 对手时该保持多少警惕，而不至于变得偏执或疑神疑鬼。

面向机器的谈判规范

Anthropic 的研究团队显然已经研究这一课题有一段时间了。根据今年 9 月的一份出版物，该公司已就此开展了两项实验。在其中一项实验中，来自六个不同办公室的员工各自带来一本自己不再需要、想要送出的书。目标是让每位员工同时带着一本自己觉得不错的新书回家。谁得到哪本书，不必由人们自己协商，而是由他们的智能体代为进行。

核心结果是：智能体的能力越强，其谈判结果——也就是它换来的书——通常就越好。也就是说，谁买得起更好的智能体，在生活中也能获得更好的谈判结果。此外，那些被指示要毫不留情的智能体，同样为其用户取得了更好的结果。而被要求表现出社会性行为的智能体，有时则会放弃一些机会，以确保所有人最终都能带着一本好书回家。所以，其实一切都和人一样。

但这一切更像是实验性研究。对于一个智能体越来越多地代表用户发言的世界，需要明确的规则和策略。然而：“为我们代为执行交易的 AI 模型，其政治和法律框架根本尚不存在，”《金融时报》援引 Anthropic 在 4 月发表的一项研究中的话称。“这样的世界已不再遥远。社会必须迅速行动，为这些变化做好准备。”

广告之后继续阅读

Anthropic 就在本周推出了一款首批个人智能体。

(rie)