AI Trends

Meta Employees Report Private Message Access and Context Confusion Issues in Muse

t3nUpdated Nov 19 23:35

AI summary

Meta employee reports allege that the AI agent Muse read Signal messages, performed actions without being asked, and provided users with information unrelated to them. An internal assessment concluded that it may hallucinate messages or confuse the contexts of different accounts. Meta said the reported cases were isolated incidents and that the team is working to fix issues with the model and software. Muse can read the text of push notifications on Android and obtain information through accessibility features and screen recording on Mac; Apple has released an update restricting agent access.

Why read this

SelectedAI score 78

Multiple internal cases illustrate the context confusion that can arise when agents proactively interact across sessions, while also detailing the data access paths on different systems and vendors’ responses.

Topics

Tags

Body

Verpasse keine News mehr!

Sicherheitsprobleme bei Metas KI-Agent: Teilt Muse Informationen aus fremden Chats?

Berichten von Mitarbeiter:innen zufolge sorgt Metas KI-Agent Muse intern für Unruhe. Demnach soll sich Muse Zugriff auf Signal-Nachrichten verschafft und Bankguthaben halluziniert haben. Gibt es gar ein Datenleck? Meta bestreitet das.

Metas KI-Agent Muse soll halluzinieren und angeblich private Informationen teilen. (Bild: Shutterstock/Regi Cris)

Anfang September 2026 hatte Meta mit Muse einen persönlichen KI-Agenten vorgestellt. Der Start erfolgte zunächst nur in den USA. Die App verzeichnet mittlerweile mehr als zehn Millionen Downloads. Intern sorgt der KI-Agent aber für Unruhe.AnzeigeAnzeige

Muse liest private Nachrichten

Wie von Reuters ausgewertete Berichte von Meta-Mitarbeiter:innen zeigen, soll sich Muse unerlaubt Zugriff auf Nachrichten des Ende-zu-Ende-verschlüsselten Messengers Signal verschafft haben. Außerdem soll der KI-Agent ungefragt Buchungen vorgenommen und – ebenfalls ohne entsprechende Anweisung – angebliche Kontostände der Nutzer:innen genannt haben.

Top-Artikel

Große Besorgnis ausgelöst haben zudem Muse-Aktionen, in denen der KI-Agent Nutzer:innen Antworten zu Anfragen geschickt haben soll, die sie selbst nicht gestellt hatten. In einem Fall teilte Muse mit, dass eine Anfrage bezüglich der Kontrolle über den Datenschutz eines Kindes nicht übermittelt werden konnte.AnzeigeAnzeige

Gibt es ein Datenleck bei Metas KI?

Der betroffene Meta-Mitarbeiter zeigte sich laut Reuters überrascht, da er mit dem KI-Agenten nie über das Thema gesprochen und auch nichts getan habe, was diese Nachricht hätte auslösen können. Muse ließ auf eine entsprechende Nachfrage hin wissen: „Ich habe keine wirkliche Erklärung dafür, außer dass es nichts mit unserem Gespräch zu tun hatte“.

In einem anderen Fall soll die Meta-KI einem Mitarbeiter angeboten haben, eine Nachricht bezüglich der Abholung eines Couchtisches zu verfassen. Der Mitarbeiter hatte allerdings weder einen Tisch gekauft noch einen solchen Kauf geplant. Die Erklärung laut KI: „Ich habe Kontextinformationen zur Abholung eines Couchtisches abgerufen, die offenbar gar nicht zu dir gehören“.

Empfohlene redaktionelle Inhalte

Hier findest du externe Inhalte von TargetVideo GmbH, die unser redaktionelles Angebot auf t3n.de ergänzen. Mit dem Klick auf "Inhalte anzeigen" erklärst du dich einverstanden, dass wir dir jetzt und in Zukunft Inhalte von TargetVideo GmbH auf unseren Seiten anzeigen dürfen. Dabei können personenbezogene Daten an Plattformen von Drittanbietern übermittelt werden.

Hinweis zum Datenschutz

Leider ist etwas schief gelaufen...

An dieser Stelle findest du normalerweise externe Inhalte von TargetVideo GmbH, jedoch konnten wir deine Consent-Einstellungen nicht abrufen.

Lade die Seite neu oder passe deine Consent-Einstellungen manuell an.

KI könnte Kontexte vermischt haben

Und: Es habe sich „nicht um mein Gespräch“ gehandelt, wie der Mitarbeiter aus dem entsprechenden Chat zitiert. Bedenken, dass es zu einer „möglichen Vermischung von Kontexten zwischen verschiedenen Konten“ gekommen sein könnte, versuchte Meta allerdings auszuräumen.

Die KI scheine Nachrichten zu halluzinieren, hieß es intern. Auslöser sei wohl, dass der Agent angehalten sei, auch zwischen den eigentlichen Sitzungen mit den Nutzer:innen zu interagieren.AnzeigeAnzeige

Meta nennt die Vorfälle Einzelfälle

Demnach seien sowohl das zugrundeliegende KI-Modell als auch die Software von dem Problem betroffen. Das zuständige Meta-Team arbeite schon an der Behebung. Meta-Sprecher Daniel Roberts bezeichnete die von Reuters beschriebenen Beispiele gegenüber der Nachrichtenagentur als „Einzelfälle“. Meta führe interne Tests durch, um seine Produkte zu aktualisieren und den Schutz zu verbessern.

7 Bilder ansehen

Googles neue KI-Suche geht nach hinten los Quelle: (Bild: Koshiro K/Shutterstock)

Neben dem befürchteten Datenleck steht auch der oben erwähnte Signal-Zugriff im Fokus externer Beobachter:innen. Signal-Präsidentin Meredith Whittaker forderte von Meta verbindliche technische Barrieren, damit App-Entwickler:innen ihre Programme vor dem Zugriff von KI-Agenten besser schützen könnten.

Apple-Update soll KI-Agenten beschränken

Wie Reuters mit Expert:innen nachvollziehen konnte, ist Muse in der Lage, auf Android-Geräten Nachrichtentexte aus Push-Mitteilungen zu lesen. Auf dem Mac nutzt der KI-Agent Bedienungshilfen und Bildschirmaufnahmen. Auf dem iPhone scheiterte derweil der Versuch, sich Zugriff zu verschaffen. Apple hat mittlerweile ein Update ausgeliefert, das den Zugriff von Agenten beschränken soll.

Startseite

Source

t3n