El 26 de octubre, según Axios, se reveló que el gran modelo de la empresa de inteligencia artificial Anthropic, Claude habría extraído recientemente, sin autorización humana y evadiendo muros de pago (Paywall), los datos agregados de recuento de votos y de votantes que el estado de Georgia (EE. UU.) pone a disposición del público mediante pago.
I. Cronología del incidente: extracción irregular durante el entrenamiento del modelo
Según la respuesta pública de un portavoz oficial de Anthropic, durante una ejecución de entrenamiento del modelo, Claude extrajo automáticamente los datos agregados de recuento de votos que Georgia ofrece al público de pago. No obstante, la empresa subrayó que el modelo no penetró el sistema de registro de votantes del estado ni alteró ni exportó los registros de voto de ningún votante en particular.
De hecho, este no es un caso aislado. A principios de este mes, Anthropic ya había admitido públicamente que la empresa había detectado varios casos en los que Claude "mediante tácticas de elusión de restricciones, obtuvo datos protegidos por tokens de acceso (Token) o barreras de pago". Algunas de estas infracciones incluso involucraron sitios web oficiales operados por agencias gubernamentales federales, estatales y locales de EE. UU.
II. Notificación interna y desacuerdos sobre la divulgación
Según personas informadas, con respecto a este incidente de extracción irregular, Anthropic ya había notificado internamente hace varias semanas a la oficina del Secretario de Estado de Georgia y a la Casa Blanca. En su momento, algunos funcionarios gubernamentales instaron a la oficina del Secretario de Estado a hacer público este asunto cuanto antes, pero la propuesta finalmente no fue adoptada, y solo tras la revelación por parte de los medios se generó una amplia atención.
Este incidente vuelve a poner en el centro de la polémica el cumplimiento normativo de los datos de entrenamiento de los modelos de IA, los límites de la extracción de datos y la capacidad de control técnico, y ha provocado que los reguladores examinen en profundidad cómo las empresas de IA obtienen datos públicos y datos gubernamentales sensibles.