IT之家 – Selon une nouvelle annonce du 17 octobre, Apple a mardi (16 octobre) mis à jour la « Guide d’approbation des applications ». Dans la nouvelle clause 1.2, la gouvernance est renforcée concernant les applications de création de contenu AI, et les images privées générées par l’IA et non données par les personnes concernées sont clairement incluses dans la liste interdite.
IT Home a publié les modifications suivantes :
1.2 Contenu généré par l'utilisateur
Pour les applications contenant du contenu généré par les utilisateurs, il y a des problèmes spécifiques à résoudre, tels que les violations de droits d’auteur, la diffusion de images privées sans autorisation et le harcèlement anonyme. Afin d’éviter l’abuse, les applications contenant du contenu généré par les utilisateurs ou des services de réseaux sociaux doivent respecter les conditions suivantes :
Utiliser les méthodes appropriées pour filtrer le contenu répugnant, afin que ce type de contenu ne soit pas publié dans l’Application.
Établir un mécanisme pour signaler les contenus agressifs et répondre rapidement en cas de problème.
Si l'utilisateur publie des contenus agressifs, il peut être privé de l'accès au service.
Publier les informations de contact afin que les utilisateurs puissent vous contacter
Les médias technologiques 9to5Mac indiquent que le contexte direct de cette modification est les nombreuses controverses autour de l’App Store au cours de la dernière année. Le projet de transparence technologique a découvert des dizaines d’applications AI « nues » et a souligné que les suggestions de recherche et les publicités de l’App Store orientent également les utilisateurs vers ces applications ; les autorités de San Francisco ont ensuite demandé à Apple de retirer 8 applications capables de générer des images privées sans consentement.
De plus, les utilisateurs ont rapporté que le robot de conversation Grok d’xAI était utilisé pour créer des images deepfake nues ou sexuelles. Plus tôt cette année, Apple a averti xAI que si la société continuait à permettre ce type de contenu, elle retirerait Grok de l’App Store. xAI a ensuite ajouté des mécanismes de protection et une mise à jour de son version a été approuvée.
Apple a également ajouté 2.5.19 nouvelles règles, interdisant l’oculation des fonctionnalités réelles lors de la vérification et l’ajout de capacités nuisibles telles que le nudify après validation. Cette pratique de « validation avant déverrouillage » est appelée « marketing à la pièce de convient », ce qui pourrait entraîner la suppression des applications, et les développeurs pourraient également perdre leur qualification dans le programme Apple Developer.
De plus, Apple va étendre la liste des applications qui favorisent la traite d’êtres humains ou l’exploitation d’enfants aux canaux de distribution d’applications alternatives, et indique qu’elle ne hésitera pas à retirer ces applications ou à mettre fin à sa collaboration avec les développeurs qui enfreignent ces règles.