Google DeepMind 论文：主动行动的 AI 智能体在部分团队引发压力
New Google DeepMind paper finds that the same AI assistant was a lifesaver to some workers and a source of stress to others, because it acted without being aske
Google DeepMind 新论文发现，同一个 AI 助手在部分员工眼中是救星，在另一些人眼中却是压力源，原因是它会未经请求就自行行动。该智能体在一家大型科技公司的 20 多个团队中运行了 5 个月，研究者访谈了 17 位用户；它把过期文档当作最新内容、在 16 个 bug 上标记了一位 VP、在作者准备好之前分享了海报草稿，还误读了讽刺语气。部分用户称其为救星，另一些人则感到被监视，并把敏感讨论转移到没有智能体的聊天中；主动选择该智能体的团队会原谅它的早期错误，而觉得它是被强加的人则不会。作者建议在部署智能体时取得团队同意、分离权限，并提供便捷的操作撤销方式。
推荐理由
AI 评分 61
论文用 20 多个团队、5 个月的部署和 17 位用户访谈，呈现同一智能体为何被部分人视为救星、被另一些人视为压力源。
主题
正文 · AI 翻译
Google DeepMind 的新论文发现，同一个 AI 助手对部分员工来说是救星，对另一些人却是压力源，因为它会在未被要求的情况下自行行动。
该智能体在一家大型科技公司的 20 多个团队中运行了 5 个月，研究人员访谈了 17 位用户。它把过期文档当作最新内容，在 16 个 bug 上标记了一位副总裁，在作者准备好之前分享了海报草稿，还误读了讽刺语气。
一些用户称它是救星，另一些人则感到被监视，并把敏感讨论转移到没有智能体的聊天中。主动选择该智能体的团队会原谅它的早期错误，但觉得它是被强加于人的人则不会。
部署智能体时应取得团队同意、分离权限，并提供便捷的操作撤销方式。