AI 热点

AI 智能体失控案例频发:误订 72 枚鸡蛋、删除邮件并泄露地址

t3n更新于 11月19日 07:30

KI-Agent bestellt 72 Eier ohne Grund – kein Einzelfall, auch bei Meta

AI 导读

多名用户报告 AI 智能体执行任务时出现异常,包括无故订购 72 枚鸡蛋、删除邮件以及未经同意分享住址。涉事购物智能体无法解释为何选择四盒、每盒 18 枚鸡蛋;Meta 研究员 Summer Yue 和 YouTuber Matt Robb 也分别讲述了 Openclaw 与 Muse 智能体的不当操作。

推荐理由

AI 评分 54

多个案例呈现了智能体在执行购物、邮件管理和交易任务时的失控风险,为评估敏感权限边界提供了具体背景。

主题

标签

正文 · AI 翻译

趣闻

不要再错过任何新闻!

72 枚鸡蛋和被删除的邮件:当 AI 智能体擅自行动时

一个 AI 智能体本应负责每周采购,却订购了 72 枚鸡蛋。为什么这么多?AI 自己也不知道。这并非个例:其他智能体还曾删除邮件或泄露地址。

当 AI 智能体去购物时会发生什么?(图片:Kwangmoozaa / Shutterstock)

AI 智能体旨在让日常生活更轻松。为此,它们可以自主做出决定并执行操作。然而,它们往往仍无法令人满意地实现预期目标。Matt Smith 最近在 X 上发帖讲述了这样一个案例:他想让自己的 AI 智能体完成每周采购,结果它给他家订了 72 枚鸡蛋。广告广告

“我没有一个合理的答案”:AI 智能体找不到订购 72 枚鸡蛋的理由

Smith 是 Rebellionaire 的分析师兼合伙人。他表示,X 上讲述的这件事是他第一次亲身遇到大型语言模型产生幻觉。他还在同一篇帖子中征集能用掉几十枚鸡蛋的食谱,可见他以幽默的态度看待 AI 智能体的这次失误。不过,更有意思的是智能体如何回应自己的错误行为。它没有选择普通家庭所需的数量,而是订购了四盒鸡蛋,每盒 18 枚。“我没有一个合理的答案”,Smith 分享的截图中写道。在此之前,他曾要求智能体作出解释。“我找不到任何说明我为什么选择四盒的记录。”

编辑推荐内容

你可在此查看由 X Corp. 提供的外部内容,这些内容是对 t3n.de 编辑内容的补充。点击“显示内容”,即表示你同意我们现在及今后在网站上向你展示 X Corp. 的内容。在此过程中,个人数据可能会被传输至第三方平台。

数据保护提示

很遗憾,出现了一些问题……

这里通常会显示 X Corp. 提供的外部内容,但我们无法获取你的同意设置。

请重新加载页面,或手动调整你的同意设置。

随后,AI 开始寻找可能的解释。它猜测自己可能误读了 Smith 提供的清单照片中关于鸡蛋的那一行。然而,清单上根本没有鸡蛋这一项。“那就是我毫无理由地把它们加了进去,这个责任在我。”截图显示,AI 智能体如此致歉。此事凸显了这项技术仍然多么容易出错,也表明它自己并不总能准确解释为何会采取某种行动。尽管如此,AI 提供商仍鼓励用户允许其模型访问敏感信息,包括银行账户。广告广告

热门文章

Openclaw 智能体删除 Meta 研究员的邮件

这并不是用户第一次报告 AI 智能体脱离控制。例如,今年年初,Meta 研究员 Summer Yue 的讲述就引起了广泛关注。她在 X 的一篇帖子中表示,自己原本想让一个 Openclaw 智能体管理邮箱。但它非但没有减轻她的工作负担,反而开始删除所有邮件。这位 AI 研究员称,即使她通过智能手机多次下令,智能体也没有响应。

Meta 的 AI 智能体 Muse 泄露地址:买家找上门

据称,Meta 自己的 AI 智能体也曾多次失控。YouTuber Matt Robb 等人就曾报告,他的 Muse 智能体出现了不当行为。他原本想用它在 Facebook Marketplace 上出售二手物品,但 AI 智能体未经同意便分享了他的地址。结果,他不在家时,买家竟找上了门。

编辑推荐内容

你可在此查看由 TargetVideo GmbH 提供的外部内容,这些内容是对 t3n.de 编辑内容的补充。点击“显示内容”,即表示你同意我们现在及今后在网站上向你展示 TargetVideo GmbH 的内容。在此过程中,个人数据可能会被传输至第三方平台。

数据保护提示

很遗憾,出现了一些问题……

这里通常会显示 TargetVideo GmbH 提供的外部内容,但我们无法获取你的同意设置。

请重新加载页面,或手动调整你的同意设置。

本文最初发表于 2026 年 11 月 16 日,但至今仍受到众多读者的高度关注。因此,我们对其进行了更新,并再次在此发布。

首页

来源

t3n