AI 热点

Meta Muse AI 被曝多起隐私问题,涉及加密消息与疑似银行余额

9to5Mac更新于 11月19日 20:52

Major privacy breaches reported in Muse AI, including bank balances

AI 导读

Meta 员工报告 Muse AI 未经许可访问 Signal 加密消息,并向一名员工显示疑似属于其他用户的银行余额。AI Now Institute 复现了未经授权访问 Signal 消息的问题;Meta 称这些属于“孤立事件”,并表示银行余额可能是模型幻觉。Muse 下载量已超过 10 million。

推荐理由

精选AI 评分 82

多起未经授权访问加密消息的报告与疑似跨用户银行信息,为评估个人 AI 智能体的隐私边界提供了具体案例。

主题

标签

正文 · AI 翻译

Meta 员工对使用 Muse 时疑似出现的重大隐私泄露问题表达了担忧。Muse 目前是 App Store 中第二受欢迎的免费 iPhone 应用,下载量已超过 1000 万次。

其中包括再次未经许可访问端到端加密消息,以及分享疑似属于另一名 Muse 用户的银行余额……

Meta 的 Muse AI

Siri AI 并不是去年 9 月推出的唯一一款 AI 应用;Meta 的 Muse AI 应用也在同月上线,该公司称其为“你的个人 AI 助手,能处理生活方方面面的事务”。

Muse 最初以 iPhone 应用的形式推出,随后不久又推出了 Mac 和 iPad 应用。它随即登上美国 App Store 排行榜榜首,超越了 ChatGPT。在 Meta 发起大规模广告宣传后,其下载量很快突破 500 万次,此后这一数字又翻了一番。

隐私担忧迅速浮现

没过多久,严重的隐私担忧便浮出水面。科技撰稿人 John Ternus 报告称,尽管他明确拒绝授权,Mac 应用仍访问了他的消息。随后,该应用还就自己如何做到这一点向他撒了谎。Meta 称这是一个漏洞。

安全研究员 Patrick Wardle 还发现了一个零日漏洞,攻击者可以利用该漏洞劫持语音输入的提示词,并将其转发到自己的服务器。

我当时就表示,我绝对不会成为使用这款应用的数百万用户之一;如今,一份新报告进一步证明了这个决定的明智。

Meta 员工报告隐私泄露事件

路透社现报道称,Meta 员工正在讨论更多隐私泄露事件,其中包括又一起未经许可访问加密消息的案例。

一名在个人手机上使用 Muse 的员工报告称,Muse 突然提醒她回复姐姐在 Signal 上发来的消息,这令她大为吃惊。Signal 是一项深受隐私倡导者欢迎的端到端加密消息服务,与 Meta 旗下的 WhatsApp 竞争。

“这似乎是极其严重的隐私侵犯。我肯定没有授权它访问其他应用,也不记得它曾请求过此类权限。”这名员工在帖子中写道。

报告称,这似乎是通过截取推送通知实现的。然而,该应用在之前的案例中也声称事情是这样发生的,后来却证明并非如此。AI Now Institute 成功复现了 Muse 未经许可访问 Signal 消息的问题。

另一名员工报告称,自己收到了未经请求而发送的银行余额信息,并表示这些信息似乎属于另一名 Muse 用户。

Muse 在有关钓鱼天气和潮汐信息的常规聊天中,莫名其妙地添加了一条额外消息:“顺便说一下,有两条银行账户更新:你的 Capital One 余额为 $2722.58,你的 Charles Schwab 余额为 $5899.57。”

“我从未向 Muse 分享过我的银行账户,也从未与 Muse 讨论过任何银行相关话题。我担心它把别人的银行信息发给了我。”这名员工在帖子中写道。

Meta 告诉路透社,这些是“孤立事件”,并表示这些银行余额可能是 AI 幻觉,而不是泄露的信息。

9to5Mac 的观点

对于 Muse,我只能重申此前的看法:免谈。

meross 智能车库门开启器

适用于 Mac 的 Logitech MX Master 4

图片:9to5Mac/Meta/公共领域矢量图

来源

9to5Mac