OpenAI und das polnische NASK National Research Institute haben ein Abkommen unterzeichnet, um eine Zusammenarbeit im Bereich der KI-Sicherheit, -Sicherheit und technischen Forschung zu erkunden. Die Partnerschaft wird die Expertise beider Organisationen vereinen, um kommende Risiken besser zu verstehen, Sicherheitsmaßnahmen zu stärken und zu untersuchen, wie fortschrittliche KI einen sichereren und widerstandsfähigeren digitalen Ökosystem beitragen kann.
Wenn KI-Systeme immer fähiger werden, wird die internationale Zusammenarbeit zwischen Entwicklern und öffentlichen Forschungsinstitutionen unerlässlich sein, um ihre Risiken zu verstehen und stärkere Schutzmaßnahmen zu etablieren. Die bestehenden Arbeiten von OpenAI mit dem US Center for Advancing Standards and Innovation for Super Intelligence (CAISSI), dem UK AI Security Institute (AISI) und anderen öffentlichen Forschungseinrichtungen auf der ganzen Welt haben bereits dazu beigetragen, Sicherheitsmaßnahmen zu stärken, Sicherheitslücken in AI-Agenten zu identifizieren und zu beheben sowie die Sicherheit von KI-Systemen voranzubringen.
Durch das Abkommen werden das AI Safety Research Center von NASK – das als Polnisches Institut für die Sicherheit der künstlichen Intelligenz (AISI) fungiert – und OpenAI zusammenarbeiten, um Forschungen zur Sicherheit von Künstlicher Intelligenz durchzuführen, Möglichkeiten zur Bewertung von immer leistungsfähigeren KI-Systemen zu untersuchen, potenzielle Schwachstellen zu identifizieren und Sicherheitsmaßnahmen zu stärken.
„Die Zusammenarbeit mit OpenAI ist ein natürlicher Schritt für das Institut und sein AI-Sicherheit-Forschungszentrum, das aktiv an der Forschung zur AI-Sicherheit beteiligt ist. Diese Arbeit umfasst die Entwicklung von Schutzmaßnahmen gegen neue Risiken, die Erkennung von Inhalten, die von synthetischer KI erstellt werden, sowie das Verständnis sowohl der bösen Nutzung als auch der mehrsprachigen Aspekte dieser Herausforderungen. Die AI-Sicherheit kann nicht isoliert erreicht werden.“ Es handelt sich um eine kooperative Anstrengung – nur durch aktive Zusammenarbeit zwischen öffentlichen AI-Sicherheitsinstituten und fortschrittlichen AI-Entwicklern können wir sicherstellen, dass die AI-Technologie wirklich zuverlässig und sicher verwendbar wird. Durch die Kombination unserer Forschungskompetenz mit den technischen Fähigkeiten von OpenAI können wir Risiken besser erkennen, Sicherheitsmaßnahmen stärken und das Vertrauen der Öffentlichkeit in diese transformativen Technologien aufbauen.
„Polen ist der Heimat von außergewöhnlichen Wissenschaftlern und technischen Talenten, von denen viele zur Leitung der Forschung von OpenAI beigetragen haben. Da KI immer kompetenter wird, ist es wichtig, dass wir auf Expertise außerhalb unserer eigenen Organisation zugreifen, um unsere Annahmen zu hinterfragen, unsere Systeme zu testen und Sicherheitsmaßnahmen zu stärken. Dieser Vertrag mit NASK öffnet die Tür dafür, gemeinsam zu handeln und die Forschungskompetenz Polens in den internationalen Ansatz einzubringen, um KI sicherer zu machen.“
OpenAI hat benannt Damit die USA mit Ländern auf der ganzen Welt bei internationalen technischen Standards für Grenzforschung in KI zusammenarbeiten können, können die Expertise von KI-Sicherheitseinrichtungen und Standardsorganisationen genutzt werden. Gemeinsame Ansätze zur Bewertung von Fähigkeiten, Beurteilung von Risiken, Testung von Schutzmaßnahmen und Berichterstattung über Vorfälle können den Ländern helfen, Beweise zu vergleichen und auf Risiken zu reagieren, die über Grenzen hinweg gelten. Die Zusammenarbeit mit NASK spiegelt den Wert wider, dass nationale Expertise in diese breitere Initiative einbezogen wird.
Im Fall von NASK basiert diese Expertise auf umfangreichen Forschungen zur KI-Sicherheit, die direkt dazu verwendet werden, öffentliche Dienstleistungen und das digitale Informationsökosystem Polens zu schützen. Ohne nationale Partner wie NASK könnten die globalen Standards für KI-Sicherheit weiterhin von den Realitäten entfernt bleiben, in denen KI tatsächlich verwendet wird.
Das Abkommen basiert auch auf der bestehenden Arbeit von OpenAI mit Cyber-Sicherheitsexperten in Polen. Im Juli erhielt CERT Polska, das innerhalb von NASK operiert, durch Daybreak Zugang zu den cyberfähigen Modellen von OpenAI (öffnet in einem neuen Fenster). Das Team nutzte die OpenAI-Modelle, um sechs Sicherheitslücken in MikroTik RouterOS zu entdecken, einschließlich Fehler, die genutzt werden könnten, um betroffene Geräte ohne Authentifizierung zu kontrollieren. Der Anbieter veröffentlichte Lösungen, die CERT Polska bestätigte, dass sie die beobachteten Angriffe verhinderten.