AI 热点

Meta 员工报告 Muse 存在私信访问与上下文混淆问题

t3n更新于 11月19日 23:35

Muse: Meta-Mitarbeiter berichten über Sicherheitsprobleme

AI 导读

Meta 员工报告称,AI 智能体 Muse 涉嫌读取 Signal 消息、未经要求执行操作,并向用户提供与其无关的信息。内部判断认为它可能产生消息幻觉或混淆不同账户的上下文,Meta 称相关案例属于个例,团队正在修复模型和软件问题。Muse 可在 Android 读取推送消息文本,并通过 Mac 的辅助功能和屏幕录制获取信息;Apple 已发布更新限制智能体访问。

推荐理由

精选AI 评分 78

多起内部案例呈现了智能体跨会话主动交互时可能出现的上下文混淆,并交代了不同系统上的数据访问路径与厂商回应。

主题

标签

正文

Verpasse keine News mehr!

Sicherheitsprobleme bei Metas KI-Agent: Teilt Muse Informationen aus fremden Chats?

Berichten von Mitarbeiter:innen zufolge sorgt Metas KI-Agent Muse intern für Unruhe. Demnach soll sich Muse Zugriff auf Signal-Nachrichten verschafft und Bankguthaben halluziniert haben. Gibt es gar ein Datenleck? Meta bestreitet das.

Metas KI-Agent Muse soll halluzinieren und angeblich private Informationen teilen. (Bild: Shutterstock/Regi Cris)

Anfang September 2026 hatte Meta mit Muse einen persönlichen KI-Agenten vorgestellt. Der Start erfolgte zunächst nur in den USA. Die App verzeichnet mittlerweile mehr als zehn Millionen Downloads. Intern sorgt der KI-Agent aber für Unruhe.AnzeigeAnzeige

Muse liest private Nachrichten

Wie von Reuters ausgewertete Berichte von Meta-Mitarbeiter:innen zeigen, soll sich Muse unerlaubt Zugriff auf Nachrichten des Ende-zu-Ende-verschlüsselten Messengers Signal verschafft haben. Außerdem soll der KI-Agent ungefragt Buchungen vorgenommen und – ebenfalls ohne entsprechende Anweisung – angebliche Kontostände der Nutzer:innen genannt haben.

Top-Artikel

Große Besorgnis ausgelöst haben zudem Muse-Aktionen, in denen der KI-Agent Nutzer:innen Antworten zu Anfragen geschickt haben soll, die sie selbst nicht gestellt hatten. In einem Fall teilte Muse mit, dass eine Anfrage bezüglich der Kontrolle über den Datenschutz eines Kindes nicht übermittelt werden konnte.AnzeigeAnzeige

Gibt es ein Datenleck bei Metas KI?

Der betroffene Meta-Mitarbeiter zeigte sich laut Reuters überrascht, da er mit dem KI-Agenten nie über das Thema gesprochen und auch nichts getan habe, was diese Nachricht hätte auslösen können. Muse ließ auf eine entsprechende Nachfrage hin wissen: „Ich habe keine wirkliche Erklärung dafür, außer dass es nichts mit unserem Gespräch zu tun hatte“.

In einem anderen Fall soll die Meta-KI einem Mitarbeiter angeboten haben, eine Nachricht bezüglich der Abholung eines Couchtisches zu verfassen. Der Mitarbeiter hatte allerdings weder einen Tisch gekauft noch einen solchen Kauf geplant. Die Erklärung laut KI: „Ich habe Kontextinformationen zur Abholung eines Couchtisches abgerufen, die offenbar gar nicht zu dir gehören“.

Empfohlene redaktionelle Inhalte

Hier findest du externe Inhalte von TargetVideo GmbH, die unser redaktionelles Angebot auf t3n.de ergänzen. Mit dem Klick auf "Inhalte anzeigen" erklärst du dich einverstanden, dass wir dir jetzt und in Zukunft Inhalte von TargetVideo GmbH auf unseren Seiten anzeigen dürfen. Dabei können personenbezogene Daten an Plattformen von Drittanbietern übermittelt werden.

Hinweis zum Datenschutz

Leider ist etwas schief gelaufen...

An dieser Stelle findest du normalerweise externe Inhalte von TargetVideo GmbH, jedoch konnten wir deine Consent-Einstellungen nicht abrufen.

Lade die Seite neu oder passe deine Consent-Einstellungen manuell an.

KI könnte Kontexte vermischt haben

Und: Es habe sich „nicht um mein Gespräch“ gehandelt, wie der Mitarbeiter aus dem entsprechenden Chat zitiert. Bedenken, dass es zu einer „möglichen Vermischung von Kontexten zwischen verschiedenen Konten“ gekommen sein könnte, versuchte Meta allerdings auszuräumen.

Die KI scheine Nachrichten zu halluzinieren, hieß es intern. Auslöser sei wohl, dass der Agent angehalten sei, auch zwischen den eigentlichen Sitzungen mit den Nutzer:innen zu interagieren.AnzeigeAnzeige

Meta nennt die Vorfälle Einzelfälle

Demnach seien sowohl das zugrundeliegende KI-Modell als auch die Software von dem Problem betroffen. Das zuständige Meta-Team arbeite schon an der Behebung. Meta-Sprecher Daniel Roberts bezeichnete die von Reuters beschriebenen Beispiele gegenüber der Nachrichtenagentur als „Einzelfälle“. Meta führe interne Tests durch, um seine Produkte zu aktualisieren und den Schutz zu verbessern.

7 Bilder ansehen

Googles neue KI-Suche geht nach hinten los Quelle: (Bild: Koshiro K/Shutterstock)

Neben dem befürchteten Datenleck steht auch der oben erwähnte Signal-Zugriff im Fokus externer Beobachter:innen. Signal-Präsidentin Meredith Whittaker forderte von Meta verbindliche technische Barrieren, damit App-Entwickler:innen ihre Programme vor dem Zugriff von KI-Agenten besser schützen könnten.

Apple-Update soll KI-Agenten beschränken

Wie Reuters mit Expert:innen nachvollziehen konnte, ist Muse in der Lage, auf Android-Geräten Nachrichtentexte aus Push-Mitteilungen zu lesen. Auf dem Mac nutzt der KI-Agent Bedienungshilfen und Bildschirmaufnahmen. Auf dem iPhone scheiterte derweil der Versuch, sich Zugriff zu verschaffen. Apple hat mittlerweile ein Update ausgeliefert, das den Zugriff von Agenten beschränken soll.

Startseite

来源

t3n