El actor Wu Yue dijo ayer que el perfil de video WeChat “Hua Jie Meifu Diary” utilizó la IA para crear sus videos falsos de promoción. Los registros de pantalla que mostró indican que el perfil publicó un video hecho por la IA en el que aparece “Wu Yue”: al principio, “Wu Yue” promociona algo, seguido de imágenes de eventos públicos de ella, y en voz de “Wu Yue” se dice: “Este producto no es que ellos me buscaron, sino que yo los busco… El efecto es realmente muy intuitivo”. Lo más extraño es que al final del video aparece un fragmento de promoción que parece ser de Deng Yaping, lo que implica que una persona se hace pasar por otra para involucrar a varias personas.
Según el informe de The Paper, verificado por el equipo de WeChat, la cuenta ya está bloqueada permanentemente y todos los contenidos relacionados han sido eliminados y no pueden verse.
Al tocar la línea roja de la atención especializada “Qinglang”
Este incidente ocurrió justo frente al cañón de la vigilancia. El 30 de septiembre, la Oficina Central de Internet y Tecnología emitió una notificación, desplegando a nivel nacional una operación especial de 2 meses llamada “Claridad: Limpiar los problemas de perfiles falsos en videos cortos”, con el objetivo principal de combatir actividades como la imitación de personajes mediante IA, incluyendo la creación de videos y audios falsos a través de IA, y la usurpación de personalidades públicas para realizar promociones y actividades ilegales como representaciones fraudulentas.
Cuando la tecnología de cambio de rostro y sonido por IA se vuelve tan accesible que puede ser creada fácilmente, las figuras públicas se convierten en los objetos más fáciles de "usar como rostro". La medida de bloqueo rápido y vaciado de cuentas del video de WeChat es, al mismo tiempo, una acción inmediata por parte de la plataforma para detener contenido que infringe derechos, y también refleja la tolerancia cero hacia los problemas de imitación en esta campaña especial de control. Para los usuarios comunes, ser más atentos cuando ven "estrellas vendiendo directamente", podría ser más útil que luchar por sus derechos después — después de todo, un rostro falso generado con una sola acción es cada vez más difícil de distinguir a simple vista.