En retrospectiva, la publicación en Instagram debería haber encendido más alarmas. La imagen pretendía mostrar a la actriz Mia Goth, apenas días después de solicitar el divorcio del actor y cineasta Shia LaBeouf, posando con una camiseta con un mensaje contundente: MI EX ES MI MAYOR FAN. Para rematar la idea, se añadió a la publicación la canción “Single Ladies (Put a Ring on It)” de Beyoncé.
Habría sido algo fuera de lo común para la estrella de Pearl, que no tiene mucha presencia en redes sociales, si es que tiene alguna. Pero la cuenta de Instagram que la publicó, @miagoth_, tenía más de un millón de seguidores y estaba marcada con la marca de verificación azul de “verificada”. En cuestión de días, la imagen acumuló casi 500,000 me gusta, incluidos los de colegas de la industria del entretenimiento, a pesar de que la página estaba etiquetada como cuenta de fans.
La imagen, como informó The Verge, fue generada por IA y publicada por una cuenta de la que el representante de Goth dijo que ya se había quejado a Instagram por publicar “imágenes falsificadas, generadas por IA” de Goth. Meta permite a los usuarios comprar marcas de verificación azules de “verificada”, incluso si la cuenta no es gestionada por una figura prominente o no es una página oficial.
“El hecho de que esta cuenta de fans cumpla con los criterios de Instagram para calificar a una ‘ficha azul’ es desconcertante a un nivel fundamental”, dijo Christine Tripicchio, representante de Goth, a The Verge en un correo electrónico. “Más allá de eso, es incomprensible que Instagram evidentemente priorice la difusión de imágenes falsificadas y manipuladas por encima de la protección y la integridad de la imagen de una figura pública”.
Debido a la noticia de su divorcio, la publicación se filtró a los medios de cotilleos de celebridades, y esa cobertura a su vez propagó la publicación a través de la búsqueda de Google. Las búsquedas de la actriz y la camiseta activaban un resumen generado por IA que decía que Goth lanzaba “un claro dardo a su ex, Shia LaBeouf, tras su reciente solicitud de divorcio”, citando a su vez los blogs mencionados. Una sección de los resultados de búsqueda de Google etiquetada “Mia Goth llama la atención en Instagram con una atrevida camiseta de ‘Mi ex es mi mayor fan’” aparecía de forma destacada, junto con enlaces a publicaciones en redes sociales que comentaban la imagen. Instagram finalmente eliminó la cuenta por suplantar a una figura pública.
Desde que las herramientas de IA generativa de consumo estuvieron disponibles hace varios años, algunos de los casos de uso más memorables —y controvertidos— han involucrado a personas famosas. Los sujetos humanos en cuestión históricamente no han respondido bien a ser clonados digitalmente y usados como juguetes: Una canción generada por IA con una voz similar a la de Drake fue eliminada de YouTube tras avisos de derechos de autor. Scarlett Johansson contrató a un equipo legal después de que OpenAI lanzara una voz para ChatGPT que sonaba como ella sin su consentimiento. Se dice que Ariana Grande bloqueó una cuenta que publicaba contenido generado por IA sobre ella el año pasado. Taylor Swift respaldó públicamente a Kamala Harris para presidenta en 2024, diciendo que se sintió obligada a aclarar su postura después de que Donald Trump publicara imágenes falsas que sugerían que ella lo respaldaba.
Hubo un momento en que todos, incluso los ricos y famosos, lidiaban con las normas en torno a una nueva tecnología. Ahora, el lodazal de contenido con IA en internet solo crece — y no está claro si alguien está intentando o pudiendo detenerlo.
Relacionado
- Es 'incomprensible' que Instagram permitiera la difusión de una imagen de IA de Mia Goth, dicen sus representantes
- Scarlett Johansson dijo a OpenAI que no usara su voz — y no está contenta de que quizá lo hayan hecho de todos modos
El contenido de IA que representa a figuras públicas femeninas es a menudo abiertamente sexual. Un perfil que publica exclusivamente imágenes generadas por IA de Johansson — a menudo con los pies descalzos mostrados de manera prominente — incluía información de contacto para que empresas pudieran anunciarse en la cuenta, junto con enlaces a canales de Patreon y Telegram que venden suscripciones. El contenido fuera de la plataforma usaba el nombre y la imagen (de IA) de Johansson para anunciar contenido para adultos. Otra cuenta publica imágenes realistas generadas por IA de actores y músicos como Millie Bobby Brown, Zendaya y Grande, siempre parcialmente desnudos o en posiciones sexualizadas. Algunas cuentas tienen su propio nicho, como “Stranger Things actores casándose entre sí.”
Después de que The Verge preguntara a Meta sobre ocho cuentas que publicaban contenido deepfake de celebridades, el portavoz Alex Dziedzan dijo que la empresa había eliminado algunas de las cuentas. Dos de ellas — la del gótico y la de Johansson — parecen haber sido retiradas.
“No permitimos que las cuentas usen la imagen de alguien para hacerse pasar por esa persona, independientemente de si el contenido es auténtico o generado por IA”, dijo Dziedzan en un correo electrónico.
Taylor Swift sostiene una bebida, rapeando junto a “Burning Bridges” de Drake, con palabrotas y todo. “I’m off a [Quaalude]/it make my body tingle”, canta ella, con el vestido de el fatídico momento de los VMAs de 2009. El video es de IA, obviamente. Tiene 1.8 millones de vistas en Instagram.
“No creo que a su equipo de relaciones públicas le guste que diga la palabra con N”, comentó alguien.
Instagram está lleno de videos como este, a menudo siguiendo inexplicablemente formatos muy específicos. Un clip del IA Shrek haciendo lo mismo que la IA Swift tiene 3.1 millones de vistas. Aquí está Steve Jobs, presumiendo al ritmo de otra canción de Drake con una botella de champán en la mano (371,000 vistas). También está una versión idéntica de Lionel Messi (2.1 millones de vistas) publicada por una cuenta diferente. Aquí están los pilotos de Fórmula 1 Lewis Hamilton y Max Verstappen haciendo lipsync de “APT” de Bruno Mars y Rosé (2.9 millones de vistas). Otro clip muestra la boda de la IA Swift con el IA Travis Kelce en el IA Madison Square Garden.
“ai él llevaba esmoquin blanco”, verificado amablemente por un aficionado.
En ausencia de leyes nacionales de derecho a la imagen, el contenido generado por IA con personas reales se litiga a nivel de plataforma. (La Take It Down Act de EE. UU., que fue firmada como ley en 2025, penaliza específicamente la distribución de imágenes íntimas sin consentimiento, incluido el contenido generado por IA, y obliga a las plataformas a eliminarlas en un plazo de 48 horas.)
YouTube tiene detección de semejanza, quizás el sistema más robusto de monitoreo y eliminación de deepfakes. Bajo este programa, YouTube escaneará su plataforma en busca de coincidencias visuales de una persona — y, desde hace poco, de imitaciones de voz — y les permitirá solicitar la eliminación de contenido. No todas las solicitudes de eliminación son aceptadas; la empresa dice considera el interés público, la relevancia informativa y el consentimiento al evaluar las eliminaciones. El programa se abrió inicialmente a figuras públicas como celebridades, creadores de contenido, políticos y periodistas, pero ahora cubre todo adulto con una cuenta de YouTube". En el pasado, la compañía ha dicho que la cantidad de solicitudes de eliminación que recibe es relativamente pequeña. Los creadores quieren saber qué se ha publicado sobre ellos en YouTube, pero a menudo termina siendo "bastante benigno o un añadido a su negocio en general", dijo Amjad Hanif, vicepresidente de productos para creadores," dijo en una rueda de prensa en marzo.
El portavoz de YouTube, Jack Malon, señaló en un correo electrónico a The Verge que la detección de semejanza de la empresa era desarrollado en colaboración con la industria del entretenimiento. Malon dijo que en la primera mitad de 2026, YouTube eliminó más del 95 por ciento de los videos que fueron reportados a través del programa para su retirada.
Las imágenes fijas están exentas del requisito de etiquetado de IA de Meta
El contenido generado por IA en las plataformas de Meta a menudo tiene etiquetas que lo identifican como tal. Algunos contenidos, como los videos realistas de personas o el audio de voces generadas por IA, deben tener obligatoriamente una etiqueta de IA. Las imágenes fijas, por otro lado, están exentas del requisito de etiquetado, lo que significa que la imagen falsa de Mia Goth no habría requerido una divulgación bajo las reglas de Meta. La compañía también introdujo etiquetas de "perfil generado por IA" que se aplican a una cuenta completa cuando el avatar representado no existe en el mundo real, tras una avalancha de influencers de IA que inundaron la plataforma.
Pero existe una pequeña industria de cuentas que producen imágenes generadas por IA de personas reales que al algoritmo parecen gustarle. Algunos de los contenidos no son evidentemente maliciosos, solo una especie de extraños: hay un género en Facebook, por ejemplo, de videos de estrenos de películas generados por IA donde el elenco original (con vestuario) camina por la alfombra roja junto a los actores de una versión con reparto nuevo. Un perfil anuncia cursos en línea de $29 por mes sobre cómo ganar dinero con contenido de IA.
El contenido de celebridades generado por IA también tiene la capacidad de hacer creer genuinamente a la gente que es real, como en el caso de la imagen (y la cuenta) que representaba a Goth. La publicación específica que se hizo viral sugería que la actriz se burlaba de LaBeouf, quien ha sido acusado de abuso por otra expareja y fue filmado en 2015 diciendo que "habría matado [a Goth]" si hubiera seguido discutiendo con ella. La imagen falsa era llamativa, turbia y oportuna; en otras palabras, perfecta para la viralidad en redes sociales, pero una posible responsabilidad para las partes involucradas. El incidente ilustra los fallos de las disposiciones de confianza y seguridad que se supone deben proteger contra este tipo de confusión.
En las redes sociales, el contenido de IA se mezcla libremente con republicaciones estándar de imágenes reales. E incluso cuando se elimina una página, hay otras que continúan difundiendo contenido: otra cuenta de Instagram —todavía activa— con más de 300,000 seguidores publica un flujo constante de fotos y videos de Johansson, que parecen ser una mezcla de imágenes auténticas y contenido generado por IA. Una de sus publicaciones más populares es la que parece ser una imagen de Johansson generada por IA con casi medio millón de me gusta. No hay ninguna divulgación de IA, en línea con las reglas de Meta. La Johansson deepfake yace en un sofá, con los pies descalzos mostrados de manera prominente. No es ella, obviamente, pero sus seguidores en los comentarios o no lo saben o no les importa.
Sigue los temas y autores de esta historia para ver más contenido similar en tu feed personalizado de la página de inicio y para recibir actualizaciones por correo electrónico.