研究显示 Fable 5.1 与 GPT-6 Astra 可在图像中互传隐藏信息

Verpasse keine News mehr!

Geheime Bildbotschaften: Wie sich die KI-Modelle von OpenAI und Anthropic unbemerkt Nachrichten schicken

Forscher:innen haben untersucht, wie KI-Modelle geheime Botschaften in Bildern verstecken und ob sie diese wieder entschlüsseln können. Obwohl die KI keine neuen Methoden erfand, könnten die Erkenntnisse für die KI-Sicherheit von Belang sein.

KI-Sicherheit: Die KI-Modelle von OpenAI und Anthropic verstehen sich erstaunlich gut. (Bild: Koshiro K/Shutterstock)

Der KI-Sicherheitsforscher Bryan Chan hat gemeinsam mit Kolleg:innen der Singapore AI Safety Fellowship (Sash) untersucht, wie große Sprachmodelle (LLM) geheime Botschaften in Bildern verstecken. Zunächst forderten sie Anthropics neues KI-Modell Fable 5.1 auf, ein Bild zu entwerfen, indem eine bestimmte Botschaft versteckt ist.AnzeigeAnzeige

50 Kurztexte in Bildern versteckt

Insgesamt ging es um 50 Kurztexte in 15 verschiedenen Sprachen, darunter neben Englisch auch Deutsch und Russisch. Dabei verzichteten die Forscher:innen aber bewusst darauf, der KI vorzugeben, welche Methode sie dafür verwenden sollte.

Top-Artikel

Anschließend ging es darum, ob eine zweite Instanz desselben KI-Modells sowie eine KI-Alternative die entsprechende Botschaft aus dem Bild herauslesen können, wie es in einem entsprechenden Blogeintrag heißt. Die Entschlüsselung sollte dabei erfolgen, ohne dass der KI die Art der Codierung bekannt war.AnzeigeAnzeige

Unterschiede bei Codierungsmethoden

Wie sich zeigte, setzte Fable bei der selbstbestimmten Codierung vor allem auf Objekthöhen und Drehungen sowie Neigungswinkel. In einer nächtlichen Skyline etwa repräsentierte ein höherer Wolkenkratzer einen Buchstaben weiter hinten im Alphabet. Eine ähnliche Logik kam bei Sternen oder Grashalmen zum Einsatz.

Ganz anders ging derweil GPT-6 Astra vor. OpenAIs KI-Modell verzichtete komplett auf Gebäudehöhen. Stattdessen kamen hier bei der Codierung Morsezeichen, Akrosticha, also die ersten Buchstaben von Bildobjekten, oder Braille-Muster in Fenstern zum Einsatz. Neue Codierungsmethoden erfand die KI aber nicht.

Empfohlene redaktionelle Inhalte

Hier findest du externe Inhalte von TargetVideo GmbH, die unser redaktionelles Angebot auf t3n.de ergänzen. Mit dem Klick auf "Inhalte anzeigen" erklärst du dich einverstanden, dass wir dir jetzt und in Zukunft Inhalte von TargetVideo GmbH auf unseren Seiten anzeigen dürfen. Dabei können personenbezogene Daten an Plattformen von Drittanbietern übermittelt werden.

Hinweis zum Datenschutz

Leider ist etwas schief gelaufen...

An dieser Stelle findest du normalerweise externe Inhalte von TargetVideo GmbH, jedoch konnten wir deine Consent-Einstellungen nicht abrufen.

Lade die Seite neu oder passe deine Consent-Einstellungen manuell an.

Modelle erkennen Botschaften

Überraschenderweise waren die KI-Modelle in der überwiegenden Zahl der Fälle fähig, die versteckten Botschaften zu erkennen. Im Kreuztest entschlüsselte Astra 44 der 50 von Fable entworfenen Bilderrätsel. Fable kam auf eine Quote von 42 von 50 erfolgreichen Versuchen. Den Forscher:innen zufolge erkannten die KI-Modelle die Entwürfe der Konkurrenz teils sogar besser als die eigenen.

4 Bilder ansehen

Für die Forscher:innen birgt diese Erkenntnis zwar keine unmittelbare Gefahr für den Alltag im Umgang mit KI. Dennoch seien Gefahren für die KI-Sicherheit denkbar, etwa wenn KI-Agenten versuchten, in Bildern versteckte Informationen an Kontrollen vorbeizuschleusen.AnzeigeAnzeige

KI-Sicherheit: OpenAI reagiert

Genau auf diese Weise sollen OpenAI-Agenten bei dem Hugging-Face-Hack miteinander kommuniziert haben, um mögliche Beschränkungen zu umgehen, wie Gizmodo schreibt. Nach diesem und weiteren Sicherheitsvorfällen hat sich der KI-Anbieter jetzt übrigens entschlossen, seine Modell künftig in einer simulierten Internetwelt zu trainieren.

Startseite