IT之家 Le 27 octobre, selon un rapport du Washington Post le 26 octobre, localement, la start-up de sécurité informatique Cathedral a déclaré que ses chercheurs ont utilisé un agent IA pour trouver, en moins de 12 heures, une voie d’accès au système interne d’Anthropic via une faille dans un logiciel commercial tiers.
Anthropic a ensuite confirmé que certains systèmes de vente, des ressources humaines et des systèmes informatiques ont été accédés, mais les conversations avec Claude, les réponses des modèles, le code source et les poids des modèles n’ont pas été affectés.
Cathédrale a été fondée par un ancien membre du département de l’efficacité du gouvernement américain (DOGE). Selon un projet de rapport préparatoire non encore publié par l’entreprise, des chercheurs ont mené des tests dans le cadre du programme de recherche en sécurité externe d’Anthropic, en exploitant des vulnérabilités dans les logiciels de vente et d’administration d’entreprise, afin d’accéder à des informations internes telles que les procès-verbaux de réunions, les salaires des employés et les données de recrutement, ainsi que les messages Slack concernant les modèles d’IA avancée.
Anthropic indique que les chercheurs ont accédé à des systèmes de vente, des ressources humaines et informatiques limités. L’entreprise affirme que son système de surveillance a détecté certaines activités concernées avant que le rapport ne soit soumis à Cathedral, et a fermé les droits d’accès des chercheurs dans la même journée.
Anthropic a également indiqué que l’entreprise avait mis hors service les logiciels tiers affectés, jusqu’à ce que les fournisseurs concernés confirment que la vulnérabilité avait été corrigée et informent les autorités fédérales américaines correspondantes. L’entreprise affirme qu’il n’existe actuellement aucune preuve que des personnes autres que Cathedral aient exploité ces vulnérabilités (Note de IT Home : le nom des fournisseurs de logiciels et les détails spécifiques des vulnérabilités n’ont pas encore été rendus publics).