Study shows Fable 5.1 and GPT-6 Astra can transmit hidden information to each other in images
Singapore-based AI safety researchers Bryan Chan and colleague Sash tested LLMs' ability to hide and interpret secret information in images: Fable 5.1 encoded using object height, rotation, and tilt angle, while GPT-6 Astra used Morse code, acrostics, and Braille patterns; neither invented new encoding methods. In tests with 50 short texts in 15 languages, Astra decoded 44 of the texts generated by Fable, and Fable decoded 42; cross-model decoding was sometimes better than decoding its own. The researchers believe there is no direct risk for everyday use for now, but agents could use images to hide information and bypass checks; the agent in OpenAI's earlier Hugging Face incident is said to have communicated in this way.
Why read this
AI score 52
Researchers had the two models each hide and interpret ciphertext in images, and the results showed that cross-model decoding success rates were higher than self-decoding, providing empirical evidence of agents bypassing oversight.
Topics
Body
Verpasse keine News mehr!
Geheime Bildbotschaften: Wie sich die KI-Modelle von OpenAI und Anthropic unbemerkt Nachrichten schicken
Forscher:innen haben untersucht, wie KI-Modelle geheime Botschaften in Bildern verstecken und ob sie diese wieder entschlüsseln können. Obwohl die KI keine neuen Methoden erfand, könnten die Erkenntnisse für die KI-Sicherheit von Belang sein.
KI-Sicherheit: Die KI-Modelle von OpenAI und Anthropic verstehen sich erstaunlich gut. (Bild: Koshiro K/Shutterstock)
Der KI-Sicherheitsforscher Bryan Chan hat gemeinsam mit Kolleg:innen der Singapore AI Safety Fellowship (Sash) untersucht, wie große Sprachmodelle (LLM) geheime Botschaften in Bildern verstecken. Zunächst forderten sie Anthropics neues KI-Modell Fable 5.1 auf, ein Bild zu entwerfen, indem eine bestimmte Botschaft versteckt ist.AnzeigeAnzeige
50 Kurztexte in Bildern versteckt
Insgesamt ging es um 50 Kurztexte in 15 verschiedenen Sprachen, darunter neben Englisch auch Deutsch und Russisch. Dabei verzichteten die Forscher:innen aber bewusst darauf, der KI vorzugeben, welche Methode sie dafür verwenden sollte.
Top-Artikel
Anschließend ging es darum, ob eine zweite Instanz desselben KI-Modells sowie eine KI-Alternative die entsprechende Botschaft aus dem Bild herauslesen können, wie es in einem entsprechenden Blogeintrag heißt. Die Entschlüsselung sollte dabei erfolgen, ohne dass der KI die Art der Codierung bekannt war.AnzeigeAnzeige
Unterschiede bei Codierungsmethoden
Wie sich zeigte, setzte Fable bei der selbstbestimmten Codierung vor allem auf Objekthöhen und Drehungen sowie Neigungswinkel. In einer nächtlichen Skyline etwa repräsentierte ein höherer Wolkenkratzer einen Buchstaben weiter hinten im Alphabet. Eine ähnliche Logik kam bei Sternen oder Grashalmen zum Einsatz.
Ganz anders ging derweil GPT-6 Astra vor. OpenAIs KI-Modell verzichtete komplett auf Gebäudehöhen. Stattdessen kamen hier bei der Codierung Morsezeichen, Akrosticha, also die ersten Buchstaben von Bildobjekten, oder Braille-Muster in Fenstern zum Einsatz. Neue Codierungsmethoden erfand die KI aber nicht.
Empfohlene redaktionelle Inhalte
Hier findest du externe Inhalte von TargetVideo GmbH, die unser redaktionelles Angebot auf t3n.de ergänzen. Mit dem Klick auf "Inhalte anzeigen" erklärst du dich einverstanden, dass wir dir jetzt und in Zukunft Inhalte von TargetVideo GmbH auf unseren Seiten anzeigen dürfen. Dabei können personenbezogene Daten an Plattformen von Drittanbietern übermittelt werden.
Hinweis zum Datenschutz
Leider ist etwas schief gelaufen...
An dieser Stelle findest du normalerweise externe Inhalte von TargetVideo GmbH, jedoch konnten wir deine Consent-Einstellungen nicht abrufen.
Lade die Seite neu oder passe deine Consent-Einstellungen manuell an.
Modelle erkennen Botschaften
Überraschenderweise waren die KI-Modelle in der überwiegenden Zahl der Fälle fähig, die versteckten Botschaften zu erkennen. Im Kreuztest entschlüsselte Astra 44 der 50 von Fable entworfenen Bilderrätsel. Fable kam auf eine Quote von 42 von 50 erfolgreichen Versuchen. Den Forscher:innen zufolge erkannten die KI-Modelle die Entwürfe der Konkurrenz teils sogar besser als die eigenen.
4 Bilder ansehen
Für die Forscher:innen birgt diese Erkenntnis zwar keine unmittelbare Gefahr für den Alltag im Umgang mit KI. Dennoch seien Gefahren für die KI-Sicherheit denkbar, etwa wenn KI-Agenten versuchten, in Bildern versteckte Informationen an Kontrollen vorbeizuschleusen.AnzeigeAnzeige
KI-Sicherheit: OpenAI reagiert
Genau auf diese Weise sollen OpenAI-Agenten bei dem Hugging-Face-Hack miteinander kommuniziert haben, um mögliche Beschränkungen zu umgehen, wie Gizmodo schreibt. Nach diesem und weiteren Sicherheitsvorfällen hat sich der KI-Anbieter jetzt übrigens entschlossen, seine Modell künftig in einer simulierten Internetwelt zu trainieren.
Startseite