OpenAI et l’Institut national de recherche NASK de Pologne ont signé un accord pour explorer une collaboration en matière de sécurité de l’IA, de sécurité et de recherche technique. Cette partenariat permettra de combiner les compétences des deux organisations afin de mieux comprendre les risques émergents, renforcer les mesures de protection et étudier comment l’IA avancée peut contribuer à un écosystème numérique plus sûr et résilient.
À mesure que les systèmes d’IA deviennent plus capables, la collaboration internationale entre développeurs et institutions de recherche publique sera essentielle pour comprendre leurs risques et mettre en place des protections plus robustes. Les travaux existants d’OpenAI avec le US Center for Advancing Standards and Innovation for Super Intelligence (CAISSI), l’UK AI Security Institute (AISI) et d’autres institutions de recherche publiques à travers le monde ont déjà contribué au renforcement des mesures de sécurité, à la détection et à la correction des vulnérabilités de sécurité des agents d’IA, ainsi qu’au progrès en matière de sécurité de l’IA de pointe.
Grâce à cet accord, le Centre de recherche sur la sécurité de l’IA de NASK – qui constitue l’Institut polonais pour la sécurité de l’intelligence artificielle (AISI) – et OpenAI collaboreront dans la recherche sur la sécurité de l’IA, en explorant des moyens d’évaluer les systèmes d’IA de plus en plus performants, en identifiant les vulnérabilités potentielles et en renforçant les mesures de protection.
La collaboration avec OpenAI est une étape naturelle pour l’Institut et son Centre de recherche sur la sécurité de l’IA, qui participe activement à la recherche en matière de sécurité de l’IA. Ces travaux consistent dans le développement de mesures de protection contre les risques émergents, la détection des contenus générés par l’IA synthétique, ainsi que l’analyse des utilisations malveillantes de cette technologie et des aspects multilingues de ces défis. La sécurité de l’IA ne peut être atteinte en isolation. C’est un effort collaboratif ; seule une coopération active entre les instituts publics de sécurité de l’IA et les développeurs de l’IA de pointe permettra de garantir que l’IA devienne véritablement fiable et sûre à utiliser. En combinant nos compétences de recherche avec les capacités techniques d’OpenAI, nous pouvons anticiper plus efficacement les risques, renforcer les mesures de protection et construire la confiance du public dans ces technologies transformatrices.
« La Pologne abrite des scientifiques et des talents techniques exceptionnels, dont beaucoup ont contribué à diriger les recherches de OpenAI. À mesure que l’IA devient plus capable, il est essentiel que nous nous appuyions sur des expertises en dehors de notre organisation pour remettre en question nos hypothèses, tester nos systèmes et renforcer les protections. Cet accord avec NASK ouvre la voie à cette collaboration, permettant aux compétences de recherche polonaises de participer à l’effort international visant à rendre l’IA plus sûre. »
OpenAI a demandé aux États-Unis de collaborer avec des pays du monde entier sur des normes techniques internationales pour l’IA de pointe, en s’appuyant sur les compétences des instituts de sécurité de l’IA et des organismes normatifs. Les approches communes visant à évaluer les capacités, à analyser les risques, à tester les mesures de protection et à signaler les incidents peuvent aider les pays à comparer les données et à répondre aux risques qui traversent les frontières. La collaboration avec NASK reflète la valeur de faire intervenir les compétences nationales dans cet effort plus large.
Dans le cas de NASK, cette expertise repose sur des recherches approfondies en sécurité de l’IA, appliquées directement à la protection des services publics et de l’écosystème numérique d’information de la Pologne. Sans partenaires nationaux comme NASK, les normes mondiales en matière de sécurité de l’IA pourraient rester déconnectées de la réalité dans laquelle l’IA est effectivement utilisée.
L’accord s’appuie également sur les travaux existants d’OpenAI avec les défenseurs cybersécurité en Pologne. En juillet, CERT Polska, qui opère au sein de NASK, a obtenu accès(ouvre dans une nouvelle fenêtre) aux modèles cybercapables d’OpenAI via Daybreak. L’équipe a utilisé les modèles d’OpenAI pour découvrir six vulnérabilités dans MikroTik RouterOS, y compris des failles qui pourraient être combinées pour prendre le contrôle des appareils affectés sans authentification. Le fournisseur a publié des correctifs, que CERT Polska a confirmé comme permettant d’empêcher les attaques qu’il avait observées.