Apple verbietet Apps, die bei der Prüfung harmlos tun und danach Nacktbilder von Menschen erzeugen: San Francisco hatte schon im Juli eine Säuberung angeordnet

Apple hat am Wochenende die Regeln für Entwickler im App Store verschärft. Verboten sind Apps, die künstliche Intelligenz zur Erzeugung beleidigender Inhalte nutzen, aber auch solche, die sich bei der Prüfung als harmlos ausgeben und sich nach der Freigabe in „Ausziehen“-Werkzeuge verwandeln - Apps, die aus einem gewöhnlichen Foto eines Menschen ein gefälschtes Nacktbild machen - oder solche Funktionen prominent bewerben.

Das Unternehmen nannte die Taktik beim Namen. „Apps, die versteckte oder nicht dokumentierte Funktionen enthalten, sind im App Store ebenfalls verboten, einschließlich Apps, die bei der Prüfung ihren Zweck falsch darstellen und schädliche Fähigkeiten wie ‚Ausziehen‘ erst nach der Freigabe offenbaren, eine Taktik, die als Köder und Austausch bekannt ist“, schrieb Apple in seinem Blog. Apps, die Funktionen hinzufügen, die es in der zur Prüfung eingereichten Version nicht gab, werden entfernt.

Die Regeln verlangen ausdrücklich, dass Apps mit Nutzerinhalten unangemessenes Material filtern, Nutzern das Melden beleidigender Inhalte ermöglichen und missbräuchliche Profile sperren. Im rechtlichen Teil betonte Apple zudem, keine Apps durchzulassen, die Menschenhandel und Kinderausbeutung fördern.

Klingt entschlossen. Doch Apples eigene Zahlen werfen eine andere Frage auf. Das Unternehmen sagt, die Prüfung habe letztes Jahr über 150.000 Apps gestoppt und 193.000 Entwicklerkonten wegen Betrugs und Missbrauchs gelöscht. Trotz eines solchen Filters landeten „Ausziehen“-Apps in den Regalen. Im April zeigte ein Bericht des Tech Transparency Project, dass sowohl Apples als auch Googles Store mehrere solcher Apps anboten, manche mit der Einstufung, sie seien für Minderjährige geeignet. Im Juli ordnete die Stadt San Francisco Apple und Google an, sie zu entfernen, und Stadtanwalt David Chiu warf ihnen vor, über die Store-Provisionen daran zu verdienen.

Ob Gewissen oder Druck die Regeln geändert hat, sagt Apple nicht. Aber die Reihenfolge ist klar: erst der Bericht im April, dann die Anordnung aus San Francisco im Juli, jetzt die neuen Regeln. Ein Elternteil in Skopje oder Tetovo, das glaubt, die Altersfreigabe im Store bedeute etwas, hat das Recht zu fragen, wie viele solcher Apps die Prüfung passiert haben, bevor jemand auf die Idee kam, nach ihnen zu suchen.