L'IA transforme la vitesse, l'échelle et l'économie de la cybersécurité. Elle peut aider les défenseurs à trouver et corriger des vulnérabilités, à détecter des intrusions et à répondre aux attaques—mais ces mêmes capacités peuvent servir des acteurs malveillants et créer de nouveaux risques lorsque les systèmes d'IA agissent au-delà des limites prévues. Nous nous trouvons dans une fenêtre pour les défenseurs : une occasion limitée de mettre l'IA avancée entre les mains des défenseurs et de renforcer les protections avant que des capacités cyber offensives avancées ne deviennent largement disponibles.
Aujourd'hui, nous publions un plan pour renforcer les défenseurs cyber, qui s'appuie sur notre précédent plan d'action en cybersécurité et sur notre plan de sécurité de pointe(opens in a new window). Notre expérience des incidents de désalignement et de sécurité impliquant nos propres modèles souligne la nécessité de garanties plus solides et d'une responsabilisation accrue dans l'ensemble du secteur. En tirant les leçons de ces expériences, le plan propose des mesures concrètes aux gouvernements et à l'industrie dans trois domaines :
Renforcer la sûreté et la sécurité de l'IA avancée : Établir des responsabilités plus claires pour la sécurisation des modèles et agents de pointe, la détection des comportements dangereux et le maintien de contrôles d'arrêt fiables pour les opérations relevant du contrôle de chaque organisation.
Moderniser la cybersécurité pour l'ère du renseignement : Équiper les défenseurs d'outils avancés, de formations et de support technique ; remédier aux faiblesses de cybersécurité de longue date ; et investir dans la sécurisation des services essentiels et le remplacement des systèmes obsolètes.
Construire des institutions publiques résilientes et adaptatives : Renforcer les évaluations gouvernementales et les évaluations techniques indépendantes, établir des exigences cohérentes de signalement des incidents et améliorer la réponse coordonnée et le rétablissement.
Les laboratoires d'IA ont la responsabilité de traiter les risques créés par leurs systèmes et d'aider à renforcer les défenses de la société. Les gouvernements doivent également disposer de l'expertise, des ressources et de l'autorité nécessaires pour protéger le public à mesure que les capacités progressent. Nous encourageons les décideurs politiques à agir dès maintenant—en établissant des garanties, en tirant les leçons de l'expérience et en renforçant les exigences à mesure que la technologie évolue.
Lisez le plan complet ici(opens in a new window).