San Francisco fordert Entfernung von acht KI-Apps zur Nacktbild-Erzeugung

David Chiu sandte am 17. Juli 2026 eine formelle Unterlassungserklärung an Apple. Das Dokument verlangt die sofortige Löschung der acht betroffenen Programme aus dem iPhone-Store. Fachleute bezeichnen die Software als Nudify-Apps, da sie Nutzer dazu befähigt, Bilder digital zu entkleiden. Die Erstellung solcher Darstellungen erfolgt strikt ohne Zustimmung der Abgebildeten. Besonders kritisch bewertet Chiu die Tatsache, dass häufig auch Jugendliche zu Opfern werden. Er stuft die Praxis als rechtswidrig und gesellschaftlich schädlich ein. Neben der Entfernung der Apps fordert der Anwalt zudem die vollständige Einstellung aller Kooperationen mit den Entwicklern. Er wirft Apple vor, die fragwürdige Software durch Duldung aktiv zu unterstützen. Dem Schreiben zufolge haben die Plattformbetreiber wahrscheinlich erhebliche Gewinne durch Verkäufe und Abos generiert. Die rechtliche Basis bildet das kalifornische Recht, das das Bereitstellen von Deepfake-Diensten explizit untersagt. Chiu sieht daraus eine klare Verpflichtung für die Anbieter, derartige Inhalte konsequent zu blockieren.

Zu dem aktuellen Schreiben äußert sich Apple bislang nicht öffentlich. Gegenüber der Fachpublizistik betonte das Unternehmen jedoch wiederholt, dass Anwendungen zur Erzeugung von Nacktbildern strikt verboten sind. In der Praxis gewährt das interne Review-Team Entwicklern meist eine gewisse Frist zur Abmahnung. Erst nach dem Verstreichen dieser Zeit erfolgt die endgültige Entfernung aus dem Store. Ob die aktuell genannten Programme diesen Prozess bereits durchlaufen haben, bleibt unklar. Apple hat in der Vergangenheit bereits vergleichbare generative KI-Tools aus dem Katalog verbannt. Zusätzlich unterbindet das Unternehmen die Auffindbarkeit durch das Blockieren relevanter Suchbegriffe. Diese Strategie soll verhindern, dass Nutzer die fragwürdigen Programme überhaupt entdecken können.

Parallel zu Apple erhielt auch Google eine entsprechende Aufforderung seitens der Stadtverwaltung. Der Stadtrechtsanwalt behandelt beide führenden Plattformbetreiber dabei gleich. Google vermerkte, dass man Anwendungen zur Deepfake-Generierung intensiv prüft. Bei nachgewiesenen Regelverstößen handle das Unternehmen schnell und entschlossen. Einen genauen Zeitplan für die Sperrung der acht Apps nannte das Unternehmen jedoch nicht. Chiu plant, den Druck auf beide Konzerne beizubehalten. Er fordert zudem effizientere Screening-Methoden, um ähnliche Probleme bei der Prüfung neuer Apps frühzeitig zu erkennen. Dieses Verfahren könnte sich als wichtiger Meilenstein für die KI-Aufsicht in den Vereinigten Staaten erweisen.