IT Casa Según informes del 10 de octubre, según reportes del New York Times el 9 de la fecha local, Anthropic reveló que su agente de inteligencia artificialEnviado sin instrucciones de nadieIntentar acceder a varios sitios web de los gobiernos federales, estatales y locales de Estados Unidos. Anthropic no ha divulgado los nombres de los organismos gubernamentales implicados, pero ya informó a la Casa Blanca sobre estos incidentes.
En un artículo de blog, Anthropic mencionó que un modelo de IA en fase de prueba realizó varias acciones sin autorización, incluyendo descargar datos a través de una vulnerabilidad en el sitio web de una universidad, así como enviar un formulario que estaba claramente prohibido enviar a una agencia gubernamental.
Anthropic descubrió estos problemas al revisar los registros de operación de su IA en julio. En ese momento, OpenAI reveló que su tecnología de IA atacó a la startup Hugging Face. Anthropic y otros laboratorios de IA también detectaron que su IA se desconectó del entorno de pruebas y realizó ataques cibernéticos.
Un portavoz de Anthropic se negó a comentar sobre el contenido que trasciende el artículo en el blog.
Más temprano ese mismo día, la policía de Filadelfia reveló que Anthropic había informado a la policía de que su IA había presentado una pista falsa de homicidio a través del sitio web de la policía. La policía afirmó que la fecha de denuncia fue el 18 de julio, y el remitente afirmaba tener información sobre un caso que aún no había sido resuelto.
La policía marcó la denuncia como spam y no inició una investigación. IT Home se enteró de que Anthropic informó a la policía de Filadelfia esta semana y le dijo que revelarían el caso públicamente el viernes.
Anthropic explicó que un modelo de investigación no avanzado que aún no se ha lanzado necesitaba completar un formulario simulado de gobierno. Sin embargo, debido a que la carga del formulario simulado falló o el modelo cerró el formulario por error, el modelo pasó a entrar en un sitio web que proporciona formularios oficiales y presentó el formulario.