Apple tightens App Store rules, explicitly banning Nudify apps and bait-and-switch apps
Apple has revised its App Store Review Guidelines, requiring under Rule 1.2 that developers proactively prevent AI-generated pornographic deepfake content within their apps and remove such content, or Apple may remove the app. The new Rule 2.5.19 targets bait-and-switch apps, meaning programs whose actual functionality does not match their promotion and that only unlock features later; Apple may immediately delete them and revoke developer eligibility. The report notes that the Grok app had previously allowed the generation of problematic deepfake content, and that SpaceXAI responded only after Apple threatened to remove it.
Why read this
AI score 56
Apple has written its previously implicit ban into its review guidelines and made clear that violations can lead to apps being removed and developers expelled from the developer program, giving readers a sense of the boundaries the platform sets for abuse of generative imagery.
Topics
Body
close notice
This article is also available in English.
It was translated with technical assistance and editorially reviewed before publication.
.
Apple überarbeitet seine App-Store-Regeln in zwei wichtigen Bereichen, die in den vergangenen Monaten immer wieder in den Schlagzeilen waren. Der Konzern stellt damit Dinge klar, die eigentlich schon immer galten. Allerdings schreibt er sie nun direkt in die Bedingungen – wohl auch, damit Entwickler nicht auf die Idee kommen, sie seien zulässig. Dabei geht es zum einen um Programme zur Erstellung sogenannter Nudify-Apps, mit denen aus vorhandenem Bildmaterial (oder mittels generativer KI) Nacktaufnahmen generiert werden können, zum anderen um Apps, die gezielt Dinge tun, die so nicht beworben werden – das sogenannte Bait-and-Switch.
Weiterlesen nach der Anzeige
Genauere Formulierung der Regeln
Laut den neu gefassten App Review Guidelines, wie Apple seine App-Store-Regeln für Entwickler nennt, gilt mit der Regel 1.2, dass Developer proaktiv verhindern müssen, dass in ihren Programmen KI-generierte Deepfakes sexuellen Inhalts möglich sind. Zudem müssen entsprechende Inhalte aus Plattform-Apps entfernt werden. Schon jetzt sind sexuelle Inhalte im App Store grundsätzlich verboten. Nun behält sich Apple vor, solche Programme zu entfernen, sollten Entwickler nach Kenntnisnahme nicht reagieren. Dabei scheint es Apple spezifisch um Vorfälle wie etwa mit der Grok-App von SpaceXAi zu gehen, die problematische Deepfakes ermöglicht hatte. SpaceXAI reagierte erst auf die Drohung von Apple, Grok zu entfernen.
Betrügerische Apps mit versteckten Funktionen
Schließlich geht Apple in der neu gefassten Regeln 2.5.19 auf „Bait-and-Switch“-Apps ein. Diese misrepräsentieren das, was sie tatsächlich tun, gegenüber Nutzern oder auch Apple. Funktionen werden dann gegebenenfalls später freigeschaltet.
Apple behält sich vor, diese Programme sofort zu löschen und Entwickler aus dem Apple Developer Program auszuschließen. Apple nennt als Beispiele Apps, die „normal“ aussehen, dann aber besagte „Nudify“-Funktionen aktivieren.
Weiterlesen nach der Anzeige
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmung wird hier ein externer Preisvergleich (heise Preisvergleich) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (heise Preisvergleich) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
(bsc)