San Francisco hat Apple und Google angewiesen, die Apps aus ihren Stores zu entfernen, die Menschen „ausziehen\" - Programme, die mit künstlicher Intelligenz jedem Foto die Kleidung digital abnehmen. Die Ziele sind fast ausnahmslos Frauen und Mädchen. Beide Konzerne wussten jahrelang, was sie hosteten, kassierten aber weiter ihre Provision.

Die Rechtsgrundlage ist eindeutig. Ein kalifornisches Gesetz von 2025 stellt jeden unter Strafe, der „wissentlich\" die Erstellung nicht einvernehmlicher pornografischer Deepfakes ermöglicht, und erlaubt den Opfern, die Vermittler direkt zu verklagen. Und Vermittler ist hier nicht nur, wer die App geschrieben hat - sondern auch der Store, der sie verkauft und seinen Anteil nimmt.

David Chiu, der Stadtanwalt von San Francisco, nimmt kein Blatt vor den Mund: „Apple und Google profitieren von Apps, die Frauen und Mädchen ausbeuten, indem sie nicht einvernehmliche intime Deepfakes erstellen.\" Laut seiner Behörde waren beide Firmen seit Januar durch Berichte des Tech Transparency Project gewarnt worden - und verarbeiteten dennoch weiter die Zahlungen für diese illegalen Downloads.

Der April-Bericht dieser Organisation geht einen Schritt weiter: Er behauptet, Google und Apple hätten die Nutzer gezielt zu solchen Apps „gelenkt\". Der Stadtanwalt schätzt, dass die beiden Konzerne „Millionen Dollar\" an Provisionen verdient haben. Die Schreiben verlangen eine Antwort binnen 28 Tagen und warnen vor möglichen zivilrechtlichen Strafen.

Die Antwort kam schnell, wie immer, wenn die Strafe real wird. Apple bestätigte, drei Apps entfernt und drei Entwicklerkonten gesperrt zu haben, und prüft vier weitere. Google teilte mit, alle fünf gemeldeten Apps im Play Store seien gesperrt worden, und insgesamt habe man Hunderte solcher Programme gesperrt. Die Frage, die sich von selbst stellt, lautet: Warum brauchte es gerichtliche Drohungen für etwas, das die „Richtlinien\" dieser Stores seit Jahren verbieten?

Beide Konzerne geben sich als Hüter der Privatsphäre, wenn es um Werbung und Daten geht. Doch dieselbe Wache war erstaunlich geduldig, während durch ihre Kanäle Werkzeuge liefen, deren einziger Zweck es ist, ein Nacktbild einer Frau ohne deren Zustimmung zu erzeugen. Die Moderation, so scheint es, arbeitet schneller, wenn die Bedrohung nicht dem Nutzer gilt, sondern der Firma selbst.