IT之家 Meldung vom 17. Oktober: Apple hat gestern (16. Oktober) die App-Review-Richtlinien aktualisiert und in der zuletzt überarbeiteten Klausel 1.2 die Regulierung von KI-Inhaltserstellungs-Apps verschärft.KI-erzeugte intime Bilder ohne Einwilligung der betroffenen Personen werden ausdrücklich in das Verbot aufgenommen.
IT之家 dokumentiert die überarbeiteten Inhalte wie folgt:
1.2 Nutzerinnengenerierte Inhalte
Für Apps mit nutzergenerierten Inhalten gibt es besondere Herausforderungen, etwa Verstöße gegen geistiges Eigentum,die Verbreitung intimer Bilder ohne Einwilligung, anonymes Mobbing und mehr. Um Missbrauch zu vermeiden, müssen Apps mit nutzergenerierten Inhalten oder Diensten sozialer Netzwerke die folgenden Bedingungen erfüllen:
Geeignete Methoden zur Filterung anstößiger Inhalte einsetzen, damit diese nicht in der App veröffentlicht werden
Einen Mechanismus einrichten, um anstößige Inhalte zu melden und bei Problemen zeitnah zu reagieren
Nutzern, die anstößige Inhalte veröffentlichen, die Nutzung des Dienstes entziehen
Kontaktinformationen veröffentlichen, damit Nutzer dich erreichen können
Das Tech-Medium 9to5Mac weist darauf hin, dass der unmittelbare Hintergrund dieser Anpassung zahlreiche Kontroversen rund um den App Store im vergangenen Jahr waren. Das Tech Transparency Project hatte Dutzende KI-„Nudify“-Apps entdeckt und darauf hingewiesen, dass auch Suchvorschläge und Werbung im App Store Nutzer zu solchen Apps führen; Beamte aus San Francisco forderten anschließend von Apple, 8 Apps zu entfernen, die intime Bilder ohne Einwilligung generieren können.
Außerdem hatten sich Nutzer darüber beschwert, dass der Grok-Chatbot von xAI zur Erstellung nackter oder sexualisierter Deepfake-Bilder genutzt wurde; Anfang dieses Jahres hatte Apple xAI gewarnt, Grok aus dem App Store zu entfernen, sollten solche Inhalte weiter geduldet werden. xAI fügte daraufhin Schutzmechanismen hinzu, und erst die aktualisierte Version erhielt die Genehmigung.
Apple fügte außerdem die neue Richtlinie 2.5.19 hinzu, die Apps verbietet, ihre tatsächlichen Funktionen während der Prüfung zu verschleiern und erst nach der Genehmigung schädliche Fähigkeiten wie „Nudify“ hinzuzufügen. Dieses Vorgehen, „erst Prüfung bestehen, dann freischalten“, wird als „Ködermarketing“ bezeichnet und kann künftig zur Entfernung der App führen; auch Entwicklern kann die Mitgliedschaft im Apple Developer Program entzogen werden.
Darüber hinaus dehnt Apple das Verbot von Apps, die Menschenhandel oder die Ausbeutung von Kindern fördern, auf alternative App-Vertriebskanäle aus und erklärt, bei regelwidrigen Apps und Entwicklern „nicht zu zögern“, Maßnahmen wie die Entfernung oder die Beendigung der Zusammenarbeit zu ergreifen.