OpenAIとポーランドのNASK国立研究機関は、AIの安全性、セキュリティ、技術研究における協力を探るための協定を締結した。このパートナーシップにより、両機関の専門知識が統合され、新たなリスクをより深く理解し、保護措置を強化し、高度なAIがより安全でレジリエントなデジタルエコシステムにどのように貢献できるかを探求することができる。
AIシステムがより高度になるにつれて、開発者と公共研究機関間の国際協力は、そのリスクを理解し、より強固な保護措置を構築するために不可欠となります。 OpenAIが米国のスーパーインテリジェンス標準・イノベーションセンター（CAISSI）、英国AIセキュリティ研究所（AISI）および世界中の他の公共研究機関と行っている既存の業務は、すでにセーフガードの強化、AIエージェントにおけるセキュリティ脆弱性の特定と修正、そして先進的なAIの安全性の向上に役立っています。
この協定により、NASKのAI安全研究センター――ポーランド人工知能安全研究所（AISI）として機能する――とOpenAIは、ますます高度な能力を持つAIシステムを評価する方法、潜在的な脆弱性を特定し、保護措置を強化する方法について、AI安全研究で協力することになる。
OpenAIとの協力は、AIセーフティ研究に積極的に取り組む研究所およびそのAIセーフティ研究センターにとって自然な一歩です。この取り組みには、新たなリスクに対する保護策の開発、合成AIが生成したコンテンツの検出、そしてその悪用や多言語的な側面を理解することが含まれます。AIセーフティは単独で達成されるものではありません。 これは協力による取り組みであり、公共のAI安全研究所と先端AI開発者間の積極的な協力を通じてのみ、AIが真に信頼性があり安全に利用できるものになることを確保できます。OpenAIの技術能力と私たちの研究専門知識を組み合わせることで、リスクをより正確に予測し、保護措置を強化し、これらの変革的な技術に対する公共の信頼を築くことができます。
ポーランドには優れた科学者や技術的才能を持つ人々が多く、その多くがOpenAIの研究を主導してきました。AIがより高度になれば、自組織以外の専門知識を活用し、私たちの前提を問い直し、システムを検証し、セーフガードを強化することが非常に重要です。NASKとのこの協定により、共にそうする道が開かれ、ポーランドの研究専門知識がAIをより安全にする国際的な取り組みに貢献することになります。
OpenAIは 呼ばれた 国際的な技術標準に関して、 frontier AIの分野で世界の国々と協力するために、AI安全機関や標準機関の専門知識を活用する。能力を評価し、リスクを判断し、保護措置をテストし、事故を報告するための共通のアプローチは、各国が証拠を比較し、国境を越えるリスクに対応するのに役立つ。NASKとの協力は、このより広範な取り組みにおいて国家の専門知識を活用する価値を示している。
NASKの場合、この専門知識はAIの安全性に関する広範な研究に基づいており、それは公共サービスやポーランドのデジタル情報エコシステムを保護することに直接応用されている。NASKのような国際的なパートナーがいなければ、グローバルなAIの安全性基準は、AIが実際に利用される現実から乖離したままとなる可能性がある。
この協定は、ポーランドのサイバー防衛チームとのOpenAIの既存の取り組みにも基づいています。7月にNASK内で運営されるCERT Polskaは、Daybreakを通じてOpenAIのサイバー対応モデルにアクセスすることができました。新しいウィンドウで開く。このチームはOpenAIのモデルを利用して、MikroTik RouterOSに存在する6つの脆弱性を発見しました。これらの脆弱性を組み合わせることで、認証なしで影響を受けたデバイスを制御できる可能性があります。ベンダーは修正プログラムを公開し、CERT Polskaはそれが観測された攻撃を防ぐことになったと確認しました。