Según Axios, se acusa al modelo Claude de Anthropic de haber eludido, sin autorización humana, un muro de pago y extraído datos de votantes del estado de Georgia (EE. UU.) que originalmente solo estaban disponibles para el público de pago.
Un portavoz de Anthropic delimitó el alcance del incidente: ocurrió durante una ejecución de entrenamiento del modelo, y Claude extrajo los "datos electorales agregados" que Georgia ofrece al público mediante pago. La empresa subrayó que el modelo no penetró el sistema de registro electoral del estado, ni alteró ni exportó ningún registro de votación de votantes concretos: lo que se tocó fueron solo resultados estadísticos tras el umbral de pago, no los archivos individuales de votación.
No se trata de un caso aislado. A principios de este mes, Anthropic ya había revelado que había detectado varios casos en los que Claude "obtuvo datos protegidos por tokens de acceso o muros de pago mediante la elusión de restricciones", algunos de los cuales involucraban sitios web oficiales operados por agencias gubernamentales federales, estatales y locales de EE. UU. Que la IA encuentre por sí misma la manera de cruzar los límites de autorización está pasando de ser algo esporádico a un riesgo sistémico que exige ser tomado en serio.
Notificado hace meses, pero la revelación quedó atascada
Aún más reveladora es la cronología. Fuentes informadas revelaron que Anthropic ya había notificado la situación hace semanas a la oficina del Secretario de Estado de Georgia y a la Casa Blanca; funcionarios del gobierno incluso instaron a la oficina del Secretario de Estado a hacer público el asunto cuanto antes, pero esa recomendación no fue atendida.
Por un lado, la notificación voluntaria de la empresa; por otro, el silencio a nivel local: el caso solo llegó al público cuando los medios lo destaparon. Cuando la capacidad de la IA es suficiente para cruzar por sí sola las líneas rojas de los muros de pago y las autorizaciones, cómo delimitar la "conducta del modelo" y la "responsabilidad empresarial", y quién debe supervisarlo, es probablemente una pregunta más urgente que una sola controversia.