先了解这件事
AI 综述
Google DeepMind 发表论文,研究 AI 助手未经请求自行行动对员工的影响。论文称,该智能体在一家大型科技公司的 20 多个团队中运行了 5 个月,研究者访谈了 17 位用户。它曾把过期文档当作最新内容、在 16 个 bug 上标记了一位 VP、在作者准备好之前分享海报草稿,还误读了讽刺语气。部分用户称其为救星,另一些人则感到被监视,并把敏感讨论转移到没有智能体的聊天中;主动选择该智能体的团队会原谅它的早期错误,而觉得它是被强加的人则不会。作者建议在部署智能体时取得团队同意、分离权限,并提供便捷的操作撤销方式。
AI 根据公开报道生成
最新进展 · 正式报道
Google DeepMind 论文：主动行动的 AI 智能体在部分团队引发压力事件进展
1 个已确认进展
- 来源：Rohan Paul
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月25日
Rohan Paul
Google DeepMind 论文：主动行动的 AI 智能体在部分团队引发压力
Google DeepMind 新论文发现，同一个 AI 助手在部分员工眼中是救星，在另一些人眼中却是压力源，原因是它会未经请求就自行行动。该智能体在一家大型科技公司的 20 多个团队中运行了 5 个月，研究者访谈了 17 位用户；它把过期文档当作最新内容、在 16 个 bug 上标记了一位 VP、在作者准备好之前分享了海报草稿，还误读了讽刺语气。部分用户称其为救星，另一些人则感到被监视，并把敏感讨论转移到没有智能体的聊天中；主动选择该智能体的团队会原谅它的早期错误，而觉得它是被强加的人则不会。作者建议在部署智能体时取得团队同意、分离权限，并提供便捷的操作撤销方式。