L’IA transforme la vitesse, l’échelle et l’économie de la cybersécurité. Elle peut aider les défenseurs à trouver et corriger des vulnérabilités, à détecter des intrusions et à répondre aux attaques, mais ces mêmes capacités peuvent servir des acteurs malveillants et créer de nouveaux risques lorsque les systèmes d’IA agissent au-delà des limites prévues. Nous traversons une fenêtre d’opportunité pour les défenseurs : une occasion limitée de mettre l’IA avancée entre les mains des défenseurs et de renforcer les protections avant que des capacités cyber offensives avancées ne deviennent largement accessibles.
Aujourd’hui, nous publions un plan pour renforcer les défenseurs cyber, qui s’appuie sur notre précédent plan d’action en cybersécurité et sur notre plan de sécurité pour les systèmes de pointe(opens in a new window). Notre expérience des incidents de désalignement et de sécurité impliquant nos propres modèles souligne la nécessité de garanties plus fortes et d’une responsabilisation accrue dans l’ensemble du secteur. En tirant les leçons de ces enseignements, le plan formule des propositions concrètes à destination des gouvernements et de l’industrie dans trois domaines :
Renforcer la sûreté et la sécurité de l’IA avancée : Établir des responsabilités plus claires pour la sécurisation des modèles et agents de pointe, la détection des comportements dangereux et le maintien de contrôles d’arrêt fiables pour les opérations relevant du contrôle de chaque organisation.
Moderniser la cybersécurité pour l’ère du renseignement : Doter les défenseurs d’outils avancés, de formations et de soutien technique ; remédier aux faiblesses de longue date en matière de cybersécurité ; et investir dans la sécurisation des services essentiels et le remplacement des systèmes obsolètes.
Bâtir des institutions publiques résilientes et adaptables : Renforcer les évaluations gouvernementales et les évaluations techniques indépendantes, établir des exigences cohérentes de signalement des incidents et améliorer la réponse coordonnée et le rétablissement.
Les laboratoires d’IA ont la responsabilité de traiter les risques que leurs systèmes créent et d’aider à renforcer les défenses de la société. Les gouvernements doivent également disposer de l’expertise, des ressources et de l’autorité nécessaires pour protéger le public à mesure que les capacités progressent. Nous encourageons les décideurs à agir dès maintenant, en établissant des garanties, en tirant les leçons de l’expérience et en renforçant les exigences à mesure que la technologie évolue.
Lisez le plan complet ici(opens in a new window).