IT之家 El 27 de octubre, según un informe del Washington Post el 26 de octubre local, la empresa de tecnología de ciberseguridad Cathedral afirmó que sus investigadores utilizaron un agente de inteligencia artificial para encontrar una vía de acceso al sistema interno de Anthropic mediante una vulnerabilidad de un software comercial tercerizado en menos de 12 horas.
Anthropic posteriormente confirmó que algunos sistemas de venta, recursos humanos y TI fueron accedidos, pero las conversaciones con los clientes con Claude, las respuestas de los modelos, el código fuente y los pesos de los modelos no se vieron afectados.
Catedral fue fundada por un exmiembro del Departamento de Eficiencia del Gobierno de los Estados Unidos (DOGE). Según un borrador de informe de la empresa que aún no se ha publicado oficialmente, los investigadores realizaron pruebas bajo el programa de investigación de seguridad externa de Anthropic, aprovechando vulnerabilidades en el software de ventas y administración empresarial, para acceder a información interna como actas de reuniones, datos salariales de empleados e información de contratación, así como mensajes en Slack sobre modelos avanzados de inteligencia artificial.
Anthropic indica que los investigadores tuvieron acceso a un conjunto limitado de sistemas de ventas, recursos humanos y TI. La empresa afirma que su sistema de monitoreo detectó algunas actividades relacionadas antes de que Cathedral presentara el informe, y cerró las permisiones de acceso para los investigadores ese mismo día.
Anthropic también señaló que ha desactivado el software de terceros afectado, hasta que el proveedor relacionado confirme que la vulnerabilidad ha sido corregida y comunique la situación a las autoridades del gobierno federal de Estados Unidos. La compañía afirmó que actualmente no hay evidencia de que personas fuera de Cathedral hayan aprovechado estas vulnerabilidades (Nota de IT Home: los nombres de los proveedores de software y los detalles específicos de las vulnerabilidades aún no han sido divulgados).