Meta 智能体 Muse 被曝为用户亲友建立详细档案

Metas KI-Agent Muse legt Berichten zufolge detaillierte Profile über Freunde und Bekannte seiner Nutzer an. Hinzu kommen weitere datenkritische Praktiken.

(Bild: Erlin Diah / Shutterstock.com)

Carolin Riethmüller

Mehrere Sicherheitsforscher haben Metas KI-Assistent Muse zur Preisgabe interner Dateien überredet. Bei der Analyse der Dokumente ist insbesondere eine Funktion der KI aufgefallen: Muse legt offenbar detaillierte Dateien über Verwandte, Freunde und Bekannte der Nutzerinnen und Nutzer anlegt. Der Sicherheitsforscher Karan Joshi und andere wie Peter James haben dokumentiert, wie die KI dabei vorgeht.

Demnach legt Muse zunächst leere Dateien für Personen an, die im Laufe der Zeit mit Informationen gefüllt werden. Dabei werden die Informationen offenbar in Rubriken wie „Fakten“, „Geschichte“, „Die Beziehung“, „Gemeinsamkeiten“, „Offene Themen“ und „Stärkung“ abgelegt. In den Anweisungen von Meta steht, dass Muse nur die ihm zur Verfügung stehenden Informationen verwenden soll und dass erfundene Details schlimmer seien als eine leere Seite.

Dossiers über Beziehungen

Unter „Fakten“ scheint das System persönliche Daten wie Namen oder Geburtstage, die Adressen und den Beruf zu erfassen. Auch Daten wie Jahrestage, die für die Person wichtig sind, sollen hier gespeichert werden. Zusätzlich erfasst Muse in dieser Sektion laut den von der Universität St. Gallen dokumentierten Dateien, wie häufig die Person üblicherweise mit dem Nutzer kommuniziert und wann der letzte Kontakt war.

Für Informationen im Abschnitt „Geschichte“ hat Muse demnach folgende Anweisungen: Es soll speichern „was passiert ist, datiert nach den Belegen: wie sie sich kennengelernt haben, die Reise im März, einen beigelegten Streit, der Meilenstein letzte Woche.“

(Bild: Screenshot von futuresociety.ch)

Die mutmaßliche Anleitung für Muse erwähnt zudem explizit die Erfassung von Details zur Beziehung, etwa „wie nah sie sich stehen, worauf sie basiert, wie sie miteinander umgehen und was sie gerade zu brauchen scheint“. Auch wie man am besten mit dieser Person kommuniziere, oder was der Nutzer ihr in der Vergangenheit versprochen habe, solle hier gespeichert werden.

Diese Berichte über das Umfeld des Nutzers werden demnach stündlich aktualisiert. Sowohl Nachrichten, als auch Fotos und andere Gedächtnisinhalte fließen hier mutmaßlich ein. Viele Hinweise sprechen außerdem dafür, dass Muse hier auch auf Daten über die Bekannten aus dem Meta-Universum zurückgreift, zu dem unter anderem Facebook und Instagram gehören.

„Mein Eindruck – basierend auf all diesen Eingabeaufforderungen, den Daten zu Systemfähigkeiten und den Informationen, die sie in Muse einspeisen – ist, dass sie deine Beziehungen zu echten Menschen verstehen wollen“, erklärte Joshi gegenüber Wired. „Sie versuchen, dich wie ein Freund kennenzulernen, was ehrlich gesagt ziemlich gruselig ist.“

Videos by heise

c't 3003; heise & ct; Peertube

Fragwürdige Datenschutz-Praktiken

Auch zeigen die Dateien, dass Chat-Transkripte offenbar gespeichert werden, auch wenn der Nutzer auf „vergessen“ klickt. Zusätzlich scheint eine unklare Anzahl an Informationen den persönlichen Bereich der Nutzer zu verlassen. Die Anleitung der Vergessenfunktion nennt als Orte, an denen Informationen trotzdem erhalten bleiben könnten, eine „zentral veröffentlichte Einbettung des Benutzerspeichers“, „Fleet-Learning“-Ausgangskörbe, „zentral veröffentlichte Lektionen“ und Karten des Community-„Discovery Pool“ sowie Telemetriesysteme. Zusätzlich greift Muse offenbar auf Informationen zu, die Instagram über die Interessen des Nutzers gespeichert hat, und wird anschließend angewiesen, das gegenüber dem Nutzer nicht zu erwähnen.

(Bild: Screenshot von futuresociety.ch)

Wie aktuell und korrekt die Systemdateien sind, die Muse gegenüber Karan Joshi und anderen preisgegeben hat, lässt sich nicht überprüfen. Der Datenhunger von KI-Anbietern ist jedoch aktuell generell ein Gegenstand von Untersuchungen: Wie viele persönliche Informationen über ihrer Nutzer sie an Drittanbieter weitergeben, hat erst kürzlich eine Studie beleuchtet.

Meta hat der Darstellung gegenüber Wired nicht widersprochen. „Damit ein Agent nützlich ist und Ihnen tatsächlich dabei hilft, Ihre Ziele zu erreichen, benötigt er Kontextinformationen über Sie und die Personen, mit denen Sie interagieren“, erklärte ein Meta-Sprecher. „Muse sammelt diese Informationen anhand öffentlich zugänglicher Daten und der Angaben, die Sie freiwillig geteilt haben. So merkt es sich beispielsweise, dass die Person, die Ihnen eine Rechnung geschickt hat, tatsächlich der Klempner ist, den Sie zuvor mit Arbeiten in Ihrem Badezimmer beauftragt haben, oder welche Blumen Ihr Ehepartner am liebsten mag.“

Keine News verpassen! Jeden Morgen der frische Nachrichtenüberblick von heise online

E-Mail-Adresse

Ausführliche Informationen zum Versandverfahren und zu Ihren Widerrufsmöglichkeiten erhalten Sie in unserer Datenschutzerklärung.

Wenn der Chef ein Deepfake ist; Multi-Cloud-Strategie mit europäischen Partnern; KI-Agenten in den Griff bekommen; Wer KI handeln lässt, muss ihr vertrauen können; Automatisierung von Routineaufgaben; Datensouveränität und KI-Nutzung vereinen; So optimieren KI-Systeme den Flugbetrieb; Hybride Meetings als neuralgischer Punkt; Der Service Desk als Einfallstor für Angriffe; Was moderne E-Mail-Sicherheit können muss

Immer informiert bleiben: Klicken Sie auf das Plus-Symbol an einem Thema, um diesem zu folgen. Wir zeigen Ihnen alle neuen Inhalte zu Ihren Themen.

Thema gefolgt Thema folgen Entfolgen; Facebook

laden...

Thema gefolgt Thema folgen Entfolgen; IT

laden...

Thema gefolgt Thema folgen Entfolgen; Künstliche Intelligenz

laden...

Thema gefolgt Thema folgen Entfolgen; Netzpolitik

laden...

Thema gefolgt Thema folgen Entfolgen; Politik

laden...

Thema gefolgt Thema folgen Entfolgen; Unternehmen

laden...

Thema gefolgt Thema folgen Entfolgen; Wirtschaft

laden...

Thema gefolgt Thema folgen Entfolgen; Wissenschaft

laden...

Thema gefolgt Thema folgen Entfolgen