OpenAI y el Instituto de Investigación Nacional NASK de Polonia han firmado un acuerdo para explorar la colaboración en seguridad, protección e investigación técnica en IA. La asociación reunirá la experiencia de ambas organizaciones para comprender mejor los riesgos emergentes, fortalecer las salvaguardas y explorar cómo la IA avanzada puede contribuir a un ecosistema digital más seguro y resiliente.
A medida que los sistemas de IA se vuelven más capaces, la colaboración internacional entre desarrolladores e instituciones públicas de investigación será esencial para comprender sus riesgos y construir salvaguardas más sólidas. El trabajo existente de OpenAI con el US Center for Advancing Standards and Innovation for Super Intelligence (CAISSI) de EE. UU., el UK AI Security Institute (AISI) del Reino Unido y otras instituciones públicas de investigación de todo el mundo ya ha ayudado a fortalecer las salvaguardas, identificar y corregir vulnerabilidades de seguridad en agentes de IA y avanzar en la seguridad de la IA de frontera.
Mediante el acuerdo, el Centro de Investigación en Seguridad de la IA de NASK –que actúa como el Instituto Polaco de Seguridad de la Inteligencia Artificial (AISI)– y OpenAI colaborarán en investigación de seguridad de la IA, explorando formas de evaluar sistemas de IA cada vez más capaces, identificar vulnerabilidades potenciales y fortalecer las salvaguardas.
“La colaboración con OpenAI es un paso natural para el Instituto y su Centro de Investigación en Seguridad de la IA, que participa activamente en la investigación sobre seguridad de la IA. Este trabajo abarca desde el desarrollo de salvaguardas contra riesgos emergentes, la detección de contenido sintético generado por IA, y la comprensión tanto de sus usos maliciosos como de los aspectos multilingües de estos desafíos. La seguridad de la IA no puede lograrse de forma aislada. Es un esfuerzo colaborativo, y solo mediante la cooperación activa entre los Institutos públicos de Seguridad de la IA y los desarrolladores de IA de frontera podremos asegurar que la IA sea verdaderamente fiable y segura de usar. Al combinar nuestra experiencia investigadora con las capacidades técnicas de OpenAI, podemos anticipar mejor los riesgos, fortalecer las salvaguardas y construir confianza pública en estas tecnologías transformadoras.”
“Polonia alberga a científicos y talentos técnicos excepcionales, muchos de los cuales han contribuido a liderar la propia investigación de OpenAI. A medida que la IA se vuelve más capaz, es vital que recurramos a experiencia más allá de nuestra propia organización para cuestionar nuestras suposiciones, probar nuestros sistemas y fortalecer las salvaguardas. Este acuerdo con NASK abre la puerta a hacerlo juntos, incorporando la experiencia investigadora de Polonia al esfuerzo internacional de hacer la IA más segura.”
OpenAI ha instado a EE. UU. a trabajar con países de todo el mundo en estándares técnicos internacionales para la IA de frontera, aprovechando la experiencia de los institutos de seguridad de la IA y los organismos de normalización. Enfoques comunes para evaluar capacidades, valorar riesgos, probar salvaguardas y reportar incidentes pueden ayudar a los países a comparar evidencias y responder a riesgos que traspasan fronteras. La colaboración con NASK refleja el valor de incorporar experiencia nacional a este esfuerzo más amplio.
En el caso de NASK, esta experiencia se basa en una extensa investigación en seguridad de la IA, aplicada directamente a la protección de los servicios públicos y del ecosistema de información digital de Polonia. Sin socios nacionales como NASK, los estándares mundiales de seguridad de la IA podrían permanecer desvinculados de las realidades en las que la IA se utiliza realmente.
El acuerdo también se basa en el trabajo existente de OpenAI con los defensores cibernéticos de Polonia. En julio, CERT Polska, que opera dentro de NASK, obtuvo acceso(opens in a new window) a los modelos cibernéticamente capaces de OpenAI a través de Daybreak. El equipo utilizó los modelos de OpenAI para ayudar a descubrir seis vulnerabilidades en MikroTik RouterOS, incluidos fallos que podrían combinarse para tomar el control de los dispositivos afectados sin autenticación. El proveedor publicó correcciones, que CERT Polska confirmó que prevenían los ataques observados.