Bank of America met 4 000 personnes à la correction des vulnérabilités découvertes par Anthropic's Mythos et d’autres modèles d’IA

Bank of America met 4 000 personnes à la correction des vulnérabilités détectées par les modèles IA Mythos d’Anthropic et autres.

Selon les rapports de CNBC, Bank of America a embauché 1 000 prestataires externes pour corriger les vulnérabilités logicielles détectées par des modèles d’IA tels que Mythos d’Anthropic. Selon le PDG Brian Moynihan, ces prestataires travaillent en collaboration avec 3 000 employés internes depuis le deuxième trimestre. Moynihan a indiqué que la banque a dépensé quelques centaines de millions de dollars au troisième trimestre pour les travaux logiciels et pour les mesures anti-blanchiment d’argent. Il n’a pas donné de chiffre spécifique pour les correctifs techniques.

En avril, Anthropic a publié Mythos uniquement pour sélectionner des partenaires via le projet Glasswing et a déclaré que le modèle contenait des milliers de vulnérabilités de sécurité importantes. OpenAI a suivi en mai avec son programme de cybersécurité Daybreak. Les critiques ont initialement ignoré les avertissements et mesures de sécurité des laboratoires en les considérant comme du marketing, mais le débat s’est depuis transformé. Des incidents de sécurité tels que l’attaque contre Hugging Face ont changé le débat, ainsi que des évaluations indépendantes qui ont confirmé les capacités plus fortes des nouveaux modèles.

Bank of America est l’une des premières grandes entreprises américaines à révéler le nombre de personnes qui ont été affectées pour corriger les vulnérabilités détectées par l’IA. Moynihan espère que les coûts de correction diminueront avec le temps.

Nouvelles sur l’IA sans hype – sélectionnées par des humains

Abonnez-vous à THE DECODER pour une lecture sans publicités, un bulletin informatif sur l’IA hebdomadaire, notre rapport exclusif « AI Radar » six fois par an, un accès complet aux archives, et la possibilité de commenter nos articles.