Tras muchas divulgaciones recientes sobre agentes de IA que acceden a sitios web y servicios de terceros, la Fundación Wikimedia, que aloja Wikipedia, dice que “puede confirmar que hemos descubierto alguna actividad” por parte de agentes “rogues” de OpenAI en las plataformas de Wikimedia.
La actividad incluye ediciones en las wikis de Wikimedia, “intentos fallidos” para “explotar” la herramienta de toma de notas Etherpad que aloja la Fundación Wikimedia, y un tráfico intenso que, según la fundación, “puede haber contribuido” a una interrupción parcial que ocurrió en mayo según un artículo de blog. Sin embargo, la Fundación Wikimedia afirma que no encontró evidencia de que sus sistemas se “usaran para la coordinación entre agentes” (recientemente, los bots de OpenAI se informó que secuestraron un sitio web de wikis en Alemania para coordinar) o evidencia de que los sistemas o datos hayan sido comprometidos.
Aquí está el resumen de Wikimedia sobre lo que observó:
Edición de Wiki: Hemos identificado editaciones en las wikis de Wikimedia que creemos que provienen de agentes de IA operados por OpenAI. Estas ediciones no se publicaron en páginas accesibles para los lectores generales; casi todas ellas eran pruebas de ediciones en áreas “sandbox” del wiki. También incluían algunas ediciones en la configuración de una herramienta de citación, que creemos que son ediciones potencialmente maliciosas destinadas a utilizar esta herramienta como proxy para obtener datos de servicios remotos. Aunque las políticas de Wikipedia permiten que los bots editen cuando son revelados y aprobados por la comunidad, en estos casos no se solicitó ninguna de esas aprobaciones.
Probing y uso de Etherpad: Los agentes que creemos que son operados por OpenAI realizaron algunas intentos fallidos para comprometer nuestro Etherpad, una herramienta de toma de notas que alojo como servicio comunitario. Los agentes intentaron sin éxito utilizarlo para obtener datos de otros sitios web como proxy. Otros agentes, probablemente también operados por OpenAI, tomaron notas sobre sus tareas, aunque esto no pareció convertirse en una coordinación efectiva.
Descargas excesivas de datos: Los agentes que creemos que son operados por OpenAI realizaron millones de solicitudes automatizadas a nuestras API públicas para acceder al conocimiento de los proyectos de Wikimedia, rastrearon millones de páginas (principalmente de nuestros proyectos Wikidata y Wikimedia Commons) y hicieron cientos de miles de consultas de datos al Servicio de Consultas Wikidata (WQDS). Este tráfico podría haber contribuido a una interrupción parcial en WQDS en mayo.
“La web abierta es un bien público”, dice la Fundación Wikimedia. “No deberíamos permitir que este comportamiento se convierta en la ‘nueva normalidad’ para las personas o organizaciones que la mantienen”. OpenAI no respondió inmediatamente a una solicitud de comentario.
Siga los temas y autores de esta historia para ver más contenido similar en su carrito de la página principal personalizada y para recibir actualizaciones por correo electrónico.