OpenAIとポーランドのNASK国立研究所は、AIの安全性、セキュリティ、技術研究における協力を検討する協定に署名しました。この提携により、両機関の専門知識を結集し、新たに出現するリスクをより深く理解し、保護策を強化し、先進的なAIがより安全でレジリエントなデジタルエコシステムにどのように貢献できるかを探っていきます。
AIシステムがより高度になるにつれ、そのリスクを理解しより強固な保護策を構築するためには、開発者と公立研究機関の間の国際協力が不可欠となります。OpenAIが米国のCenter for Advancing Standards and Innovation for Super Intelligence（CAISSI）、英国AI Security Institute（AISI）および世界中のその他の公立研究機関と行ってきた既存の取り組みは、保護策の強化、AIエージェントのセキュリティ脆弱性の特定と修正、フロンティアAIの安全性の前進にすでに貢献しています。
この協定を通じて、ポーランド人工知能安全性研究所（AISI）としての役割を担うNASKのAI Safety Research CenterとOpenAIは、AI安全性研究において協力し、ますます高度化するAIシステムの評価方法、潜在的な脆弱性の特定、保護策の強化を模索していきます。
「OpenAIとの協力は、AI安全性研究に積極的に取り組む当研究所とそのAI Safety Research Centerにとって自然な一歩です。この取り組みには、新たなリスクに対する保護策の開発、AIによる合成コンテンツの検出、そしてその悪用の実態とこれらの課題における多言語的な側面の理解が含まれます。AIの安全性は単独では達成できません。それは協力的な取り組みであり、公立のAI安全性研究所とフロンティアAI開発者の積極的な協力を通じてのみ、AIが真に信頼でき安全に使用できるものになると私たちは確信しています。私たちの研究専門知識とOpenAIの技術力を組み合わせることで、リスクをより的確に予測し、保護策を強化し、これらの変革的なテクノロジーに対する公衆の信頼を築くことができます。」
「ポーランドには優れた科学者と技術人材が集まっており、その多くはOpenAI自身の研究を牽引してきました。AIがより高度になる中で、自らの組織を超えた専門知識を活かし、前提に疑問を投げかけ、システムをテストし、保護策を強化することが不可欠です。NASKとのこの協定は、それを共に行う扉を開くものであり、ポーランドの研究専門知識を、AIをより安全にするための国際的な取り組みにもたらします。」
OpenAIは 呼びかけてきました フロンティアAIに関する国際的な技術標準について、米国がAI安全性研究所や標準化機関の専門知識を活かしながら、世界中の国々と協働するよう。能力の評価、リスクの査定、保護策のテスト、インシデントの報告に関する共通のアプローチは、国境を越えるリスクについて各国が証拠を比較し対応するのに役立ちます。NASKとの協力は、このより広範な取り組みに各国の専門知識をもたらすことの価値を示しています。
NASKの場合、この専門知識はAI安全性における幅広い研究に基づいており、公共サービスとポーランドのデジタル情報エコシステムの保護に直接活かされています。NASKのような国家的パートナーがいなければ、グローバルなAI安全性標準は、AIが実際に使用される現実から遊離したままになる恐れがあります。
この協定は、ポーランドのサイバーディフェンダーとのOpenAIの既存の取り組みをさらに発展させるものでもあります。7月、NASK内で活動するCERT Polskaは、Daybreakを通じて OpenAIのサイバー能力を有するモデルへのアクセスを得ました（新しいウィンドウが開きます） 。同チームはOpenAIのモデルを使用して、MikroTik RouterOSの6件の脆弱性の発見を支援しました。これには、認証なしに影響を受けるデバイスを制御できるよう組み合わせ可能な脆弱性が含まれていました。ベンダーは修正をリリースし、CERT Polskaはそれが同社が観測した攻撃を防止することを確認しました。