IT之家 El 17 de octubre, la compañía Apple actualizó ayer (16 de octubre) la “Guía de revisión de aplicaciones”. En la versión más reciente del artículo 1.2, se refuerza la regulación para las aplicaciones que crean contenido de IA. Se incluyen claramente en la prohibición las imágenes privadas generadas por IA y que no han sido consentidas por la persona afectada.
IT Home incluye los cambios modificados de la siguiente manera:
1.2 Contenido generado por el usuario
Para las aplicaciones que contienen contenido generado por usuarios, existen problemas específicos que deben resolverse, como infracciones de derechos de autor, distribución sin permiso de imágenes privadas y acoso anónimo. Para evitar el abuso, las aplicaciones que incluyen contenido generado por usuarios o servicios de redes sociales deben cumplir con las siguientes condiciones:
Utilizar los métodos adecuados para filtrar contenido repulsivo, de modo que este no se publique en la aplicación
Establecer un mecanismo para reportar contenido agresivo y responder de inmediato cuando surjan problemas.
Si el usuario publica contenido agresivo, puede cancelar su derecho a utilizar los servicios.
Publicar información de contacto para que los usuarios puedan comunicarse contigo
Los medios tecnológicos de 9to5Mac señalan que el motivo directo de este ajuste es los numerosos conflictos relacionados con la App Store en el último año. El proyecto de transparencia tecnológica descubrió decenas de aplicaciones de IA “desnudas” y señaló que las sugerencias de búsqueda y los anuncios de la App Store también dirigen a los usuarios hacia este tipo de aplicaciones. Posteriormente, funcionarios de San Francisco exigieron que Apple retirara 8 aplicaciones que podían generar imágenes privadas sin el consentimiento del usuario.
Además, los usuarios han presentado quejas de que el robot de chat Grok de xAI se utilizaba para crear imágenes deepfake expuestas o sexualizadas. A principios de este año, Apple advirtió a xAI que, si continuaba permitiendo este tipo de contenido, eliminaría Grok del App Store. Posteriormente, xAI implementó medidas de protección y solo se aprobó una versión actualizada después.
Apple también añadió 2.5.19 normas que prohíben en la revisión ocultar las funciones reales de la aplicación y permitir la adición de capacidades dañinas como el “nudify” después de ser aprobada. Este tipo de práctica de “aprobar primero, desbloquear después” se denomina “marketing de cebo”, y en el futuro podría llevar a la retirada de la aplicación, además de que los desarrolladores podrían perder su calificación en el Apple Developer Program.
Además, Apple prohibirá el uso de aplicaciones que fomenten la trata de personas o la explotación de niños, ampliando su alcance a canales de distribución de aplicaciones alternativos, y declara que no dudará en retirar o terminar la colaboración con las aplicaciones y desarrolladores que incumplan estas normas.