OpenAI et l'Institut national de recherche NASK de Pologne ont signé un accord visant à explorer une collaboration sur la sûreté, la sécurité et la recherche technique en matière d'IA. Ce partenariat réunira l'expertise des deux organisations pour mieux comprendre les risques émergents, renforcer les mesures de protection et explorer comment l'IA avancée peut contribuer à un écosystème numérique plus sûr et plus résilient.
À mesure que les systèmes d'IA deviennent plus performants, la collaboration internationale entre développeurs et institutions de recherche publiques sera essentielle pour comprendre leurs risques et bâtir des mesures de protection plus solides. Les travaux existants d'OpenAI avec le US Center for Advancing Standards and Innovation for Super Intelligence (CAISSI) des États-Unis, le UK AI Security Institute (AISI) du Royaume-Uni et d'autres institutions de recherche publiques à travers le monde ont déjà contribué à renforcer les mesures de protection, à identifier et corriger des vulnérabilités de sécurité dans les agents d'IA, et à faire progresser la sûreté de l'IA de pointe.
Dans le cadre de cet accord, le Centre de recherche sur la sûreté de l'IA du NASK – qui sert d'Institut polonais de sécurité de l'intelligence artificielle (AISI) – et OpenAI collaboreront sur la recherche en sûreté de l'IA, en explorant des moyens d'évaluer des systèmes d'IA de plus en plus performants, d'identifier les vulnérabilités potentielles et de renforcer les mesures de protection.
« La collaboration avec OpenAI est une étape naturelle pour l'Institut et son Centre de recherche sur la sûreté de l'IA, qui participe activement à la recherche sur la sûreté de l'IA. Ces travaux englobent le développement de mesures de protection contre les risques émergents, la détection de contenus synthétiques générés par l'IA, ainsi que la compréhension de ses utilisations malveillantes et des aspects multilingues de ces défis. La sûreté de l'IA ne peut être atteinte de manière isolée. Il s'agit d'un effort collaboratif, et seule une coopération active entre les Instituts publics de sûreté de l'IA et les développeurs d'IA de pointe peut garantir que l'IA devienne véritablement fiable et sûre à l'usage. En combinant notre expertise de recherche avec les capacités techniques d'OpenAI, nous pouvons mieux anticiper les risques, renforcer les mesures de protection et instaurer la confiance du public dans ces technologies transformatrices. »
« La Pologne abrite des scientifiques et des talents techniques exceptionnels, dont beaucoup ont contribué à diriger les propres recherches d'OpenAI. À mesure que l'IA devient plus performante, il est essentiel de nous appuyer sur une expertise au-delà de notre propre organisation pour remettre en question nos hypothèses, tester nos systèmes et renforcer les mesures de protection. Cet accord avec le NASK ouvre la voie à le faire ensemble, en apportant l'expertise de recherche polonaise à l'effort international visant à rendre l'IA plus sûre. »
OpenAI a demandé aux États-Unis de travailler avec les pays du monde entier sur des normes techniques internationales pour l'IA de pointe, en s'appuyant sur l'expertise des instituts de sûreté de l'IA et des organismes de normalisation. Des approches communes pour évaluer les capacités, analyser les risques, tester les mesures de protection et signaler les incidents peuvent aider les pays à comparer les données probantes et à répondre aux risques transfrontaliers. La collaboration avec le NASK illustre la valeur apportée par l'intégration de l'expertise nationale dans cet effort plus large.
Dans le cas du NASK, cette expertise repose sur des recherches approfondies en sûreté de l'IA, appliquées directement à la protection des services publics et de l'écosystème d'information numérique de la Pologne. Sans partenaires nationaux comme le NASK, les normes mondiales de sûreté de l'IA risquent de rester détachées des réalités dans lesquelles l'IA est réellement utilisée.
L'accord s'appuie également sur les travaux existants d'OpenAI avec les défenseurs cyber en Pologne. En juillet, le CERT Polska, qui opère au sein du NASK, a obtenu l'accès(opens in a new window) aux modèles cyber capables d'OpenAI via Daybreak. L'équipe a utilisé les modèles d'OpenAI pour aider à découvrir six vulnérabilités dans MikroTik RouterOS, notamment des failles pouvant être combinées pour prendre le contrôle des appareils affectés sans authentification. Le fournisseur a publié des correctifs, dont le CERT Polska a confirmé qu'ils empêchaient les attaques qu'il avait observées.