OpenAI und das polnische NASK National Research Institute haben eine Vereinbarung zur Erkundung einer Zusammenarbeit in den Bereichen KI-Sicherheit, Sicherheit und technische Forschung unterzeichnet. Die Partnerschaft wird Fachwissen beider Organisationen zusammenbringen, um aufkommende Risiken besser zu verstehen, Schutzmaßnahmen zu stärken und zu untersuchen, wie fortschrittliche KI zu einem sichereren und widerstandsfähigeren digitalen Ökosystem beitragen kann.
Da KI-Systeme leistungsfähiger werden, ist eine internationale Zusammenarbeit zwischen Entwicklern und öffentlichen Forschungseinrichtungen unerlässlich, um ihre Risiken zu verstehen und stärkere Schutzmaßnahmen aufzubauen. OpenAIs bestehende Arbeit mit dem US Center for Advancing Standards and Innovation for Super Intelligence (CAISSI), dem UK AI Security Institute (AISI) und anderen öffentlichen Forschungseinrichtungen weltweit hat bereits dazu beigetragen, Schutzmaßnahmen zu stärken, Sicherheitslücken in KI-Agenten zu identifizieren und zu beheben und die Sicherheit von KI an der Spitze der Forschung voranzubringen.
Im Rahmen der Vereinbarung werden NASKs AI Safety Research Center – als Polish Artificial Intelligence Safety Institute (AISI) fungierend – und OpenAI im Bereich der KI-Sicherheitsforschung zusammenarbeiten und Wege untersuchen, um zunehmend leistungsfähige KI-Systeme zu bewerten, potenzielle Schwachstellen zu identifizieren und Schutzmaßnahmen zu stärken.
„Die Zusammenarbeit mit OpenAI ist ein natürlicher Schritt für das Institut und sein AI Safety Research Center, das aktiv an der KI-Sicherheitsforschung beteiligt ist. Diese Arbeit umfasst die Entwicklung von Schutzmaßnahmen gegen aufkommende Risiken, die Erkennung synthetischer, KI-generierter Inhalte sowie das Verständnis ihrer bösartigen Nutzung und der mehrsprachigen Aspekte dieser Herausforderungen. KI-Sicherheit kann nicht isoliert erreicht werden. Sie ist eine gemeinsame Anstrengung, und nur durch aktive Kooperation zwischen öffentlichen AI Safety Institutes und Entwicklern von KI an der Forschungsspitze können wir sicherstellen, dass KI wirklich zuverlässig und sicher nutzbar wird. Indem wir unsere Forschungskompetenz mit OpenAIs technischen Fähigkeiten kombinieren, können wir Risiken besser antizipieren, Schutzmaßnahmen stärken und das öffentliche Vertrauen in diese transformativen Technologien aufbauen.“
„Polen ist die Heimat herausragender Wissenschaftler und technischer Talente, von denen viele zu führenden Kräften in OpenAIs eigener Forschung gehört haben. Da KI immer leistungsfähiger wird, ist es entscheidend, dass wir auf Fachwissen über unsere eigene Organisation hinaus zurückgreifen, um unsere Annahmen zu hinterfragen, unsere Systeme zu testen und Schutzmaßnahmen zu stärken. Diese Vereinbarung mit NASK öffnet die Tür, dies gemeinsam zu tun und Polens Forschungskompetenz in die internationalen Bemühungen einzubringen, KI sicherer zu machen.“
OpenAI hat gefordert dass die USA mit Ländern weltweit an internationalen technischen Standards für KI an der Forschungsspitze arbeiten und dabei auf die Expertise von AI-Sicherheitsinstituten und Normungsgremien zurückgreifen. Gemeinsame Ansätze zur Bewertung von Fähigkeiten, zur Risikoeinschätzung, zum Testen von Schutzmaßnahmen und zur Meldung von Vorfällen können Ländern helfen, Beweise zu vergleichen und auf grenzüberschreitende Risiken zu reagieren. Die Zusammenarbeit mit NASK spiegelt den Wert wider, nationale Expertise in diese breiteren Bemühungen einzubringen.
Im Fall von NASK beruht diese Expertise auf umfangreicher Forschung im Bereich der KI-Sicherheit, die direkt zum Schutz öffentlicher Dienste und des digitalen Informationsökosystems Polens angewendet wird. Ohne nationale Partner wie NASK könnten globale KI-Sicherheitsstandards von den Realitäten getrennt bleiben, in denen KI tatsächlich eingesetzt wird.
Die Vereinbarung baut auch auf OpenAIs bestehender Arbeit mit Cyber-Verteidigern in Polen auf. Im Juli erlangte CERT Polska, das innerhalb von NASK tätig ist, durch Daybreak Zugang(öffnet in einem neuen Fenster) zu OpenAIs cyberfähigen Modellen. Das Team nutzte OpenAI-Modelle, um sechs Schwachstellen in MikroTik RouterOS zu entdecken, darunter Fehler, die kombiniert werden könnten, um die Kontrolle über betroffene Geräte ohne Authentifizierung zu übernehmen. Der Anbieter veröffentlichte Korrekturen, die laut CERT Polska die von ihm beobachteten Angriffe verhinderten.