US government refuses to disclose safety review rules for frontier AI models
In responding to Protect Democracy's FOIA lawsuit, the US government released only some documents and refused to disclose the full content of the voluntary safety review framework for frontier models, accompanying documentation, and the list of companies granted early access to models, citing national security and trade secrets. The review is based on Executive Order 14409 signed by Trump in June 2026, which allows developers such as Anthropic and OpenAI to voluntarily open their models to the government up to 30 days before release, but which models qualify as covered frontier models and what testing and safety standards are used remain undisclosed. Protect Democracy criticized the executive branch for being able to decide which AI products are released and which customers gain access without public standards, and for the inability of external institutions to reproduce the tests.
Why read this
AI score 55
The article presents the specific scope of the US government's refusal to disclose its frontier model safety review framework, as well as the litigation by civil society organizations and the controversy over industry transparency.
Topics
Body
close notice
This article is also available in English.
It was translated with technical assistance and editorially reviewed before publication.
.
Die US-Regierung verweigert die vollständige Herausgabe der Regeln, nach denen es seine freiwillige Sicherheitsprüfung besonders leistungsfähiger KI-Modelle vor deren Herausgabe durchführt. Auch eine vollständige Liste der Unternehmen, die als „vertrauenswürdige Partner“ schon in dieser Zeit Zugriff auf die Modelle bekommen, verweigerte das Weiße Haus. Auf eine Klage nach dem Freedom of Information Act (FOIA) der Bürgerrechtsorganisation Protect Democracy hat das Office of the National Cyber Director (ONCD) im Weißen Haus nun zwar einige Dokumente vorgelegt, für zentrale Unterlagen aber weiterhin Ausnahmen geltend gemacht – unter Berufung auf nationale Sicherheitsinteressen und den Schutz vertraulicher Geschäftsgeheimnisse.
Weiterlesen nach der Anzeige
Wie The Information unter Verweis auf die Unterlagen berichtet, welche die Bürgerrechtsorganisation auf ihre Klage hin bekam, bestehe das eigentliche Framework wohl aus einem sieben Seiten umfassenden Dokument. Der vollständige Inhalt wurde aber nicht veröffentlicht. Die übrigen freigegebenen Unterlagen seien überwiegend E-Mails des ONCD und des Handelsministeriums an KI-Labore. Daraus gehe hervor, welche Organisationen als sogenannte „Trusted Partners“ für einen Vorabzugang zu Frontier-Modellen zugelassen wurden. Unter Verschluss bleiben dagegen der vollständige Entwurf des Rahmens, begleitende Dokumente sowie Details oder eine vollständige Liste der zugelassenen Unternehmen.
Freiwilliger Rahmen mit weitreichenden Folgen
Grundlage des Prüfverfahrens ist Executive Order 14409, die Präsident Donald Trump im Juni 2026 unterzeichnete. Die Anordnung sieht vor, dass Entwickler wie Anthropic und OpenAI – wenn sie wollen – der Regierung bis zu 30 Tage vor einer geplanten Veröffentlichung Zugang zu ihren Frontier-Modellen gewähren. Die Executive Order betont allerdings ausdrücklich, dass daraus keine verpflichtende Lizenz- oder Vorabgenehmigungspflicht entstehen soll.
Für die gesamte Branche bleibt aber offen, welche Modelle als „covered frontier models“ gelten, welche Tests durchgeführt, und welche Sicherheitskriterien angelegt werden. Bislang hat die Regierung den Rahmen nur einer ausgewählten Gruppe von Unternehmen erläutert.
Bürgerrechtler klagen auf Transparenz
Protect Democracy hatte im August 2026 deswegen einen FOIA-Antrag gestellt und im September unter anderem das ONCD verklagt, diese Unterlagen herauszugeben. Die Organisation kritisiert, dass die Exekutive ohne parlamentarische Grundlage und ohne öffentlich erkennbare Kriterien darüber entscheiden könne, welche KI-Produkte veröffentlicht werden und welche Kunden Zugang erhalten.
Weiterlesen nach der Anzeige
Darüber hinaus erschwert eine Geheimhaltung des Benchmarking-Prozesses eine unabhängige Bewertung. Externe Forschungseinrichtungen können die Tests nicht reproduzieren, kleinere Anbieter können ihre Sicherheitsmaßnahmen nicht auf öffentlich bekannte Kriterien abstimmen, und potenziell bevorzugte „Vertrauenswürdige Partner“ erhalten möglicherweise einen Wissens- und Marktvorsprung.
Vivian Dong, Direktorin bei der Organisation Legal Advocates for Safe Science and Technology, sagte dazu in einem Statement: „Die Bundesregierung bittet die Öffentlichkeit, einem Rahmen für die Überprüfung von KI-Modellen vor deren Veröffentlichung zu vertrauen, aber nur die Regierung und die KI-Unternehmen wissen, was der Rahmen besagt. Das ist nicht hinnehmbar, und wir werden weiter vor Gericht kämpfen, bis die Öffentlichkeit ihn einsehen kann.“
Das Weiße Haus reagierte laut The Information nicht auf eine Bitte um Stellungnahme.
(rie)