OpenAI y el Instituto Nacional de Investigación NASK de Polonia han firmado un acuerdo para explorar la colaboración en seguridad, seguridad y investigación técnica de la inteligencia artificial. La asociación reunirá los conocimientos de ambas organizaciones para comprender mejor los riesgos emergentes, fortalecer las medidas de protección y explorar cómo la inteligencia artificial avanzada puede contribuir a un ecosistema digital más seguro y resistente.
A medida que los sistemas de IA se vuelven más capaces, la colaboración internacional entre desarrolladores y instituciones de investigación pública será esencial para comprender sus riesgos y establecer medidas de protección más robustas. El trabajo existente de OpenAI con el Centro de Avanceo de Estándares e Innovación para la Superinteligencia de los EE. UU. (CAISSI), el Instituto de Seguridad de IA del Reino Unido (AISI) y otras instituciones de investigación pública de todo el mundo ya ha ayudado a fortalecer las medidas de seguridad, identificar y corregir vulnerabilidades de seguridad en los agentes de IA, y avanzar en la seguridad de la IA de vanguardia.
Mediante el acuerdo, el Centro de Investigación de Seguridad de IA de NASK – que funciona como el Instituto Polaco de Seguridad de Inteligencia Artificial (AISI) – y OpenAI colaborarán en la investigación de seguridad de la IA, explorando formas de evaluar los sistemas de IA cada vez más capaces, identificar posibles vulnerabilidades y fortalecer las medidas de protección.
“La colaboración con OpenAI es un paso natural para el Instituto y su Centro de Investigación de Seguridad de la IA, que participa activamente en la investigación sobre la seguridad de la IA. Este trabajo incluye el desarrollo de medidas de protección contra los riesgos emergentes, la detección de contenido generado por IA sintética y el análisis tanto de sus usos maliciosos como de los aspectos multilingües de estos desafíos. La seguridad de la IA no puede lograrse de forma aislada”. Es un esfuerzo colaborativo, y solo a través de la cooperación activa entre los institutos públicos de seguridad de la IA y los desarrolladores de tecnologías de IA emergentes podemos asegurar que la IA sea verdaderamente confiable y segura de usar. Al combinar nuestras habilidades de investigación con las capacidades técnicas de OpenAI, podemos anticipar mejor los riesgos, fortalecer las medidas de protección y ganar la confianza pública en estas tecnologías transformadoras.
“Polonia es el hogar de científicos excepcionales y talento técnico, muchos de los cuales han ayudado a liderar la investigación de OpenAI. A medida que la IA se vuelve más capaz, es vital que aprovechemos la experiencia de organizaciones externas para cuestionar nuestras suposiciones, probar nuestros sistemas y fortalecer las medidas de seguridad. Este acuerdo con NASK abre la puerta para hacerlo juntos, incorporando la experiencia de investigación de Polonia en el esfuerzo internacional para hacer que la IA sea más segura”.
OpenAI ha pedido a los Estados Unidos que colaboren con países de todo el mundo en estándares técnicos internacionales para la inteligencia artificial avanzada, aprovechando la experiencia de institutos de seguridad de la IA y organismos de estandarización. Enfoques comunes para evaluar capacidades, analizar riesgos, probar medidas de protección y reportar incidentes pueden ayudar a los países a comparar evidencias y responder a riesgos que trascienden fronteras. La colaboración con NASK refleja el valor de incorporar la experiencia nacional en este esfuerzo más amplio.
En el caso de NASK, esta experiencia se basa en investigaciones extensivas sobre la seguridad de la IA, aplicadas directamente para proteger los servicios públicos y el ecosistema de información digital de Polonia. Sin socios nacionales como NASK, los estándares globales de seguridad de la IA podrían permanecer desconectados de las realidades en las que la IA realmente se utiliza.
El acuerdo también se basa en el trabajo existente de OpenAI con los defensores cibernéticos en Polonia. En julio, CERT Polska, que opera dentro de NASK, obtuvo acceso(se abre en una nueva ventana) a los modelos cibernéticos de OpenAI a través de Daybreak. El equipo utilizó los modelos de OpenAI para ayudar a descubrir seis vulnerabilidades en MikroTik RouterOS, incluyendo defectos que podrían combinarse para tomar el control de los dispositivos afectados sin autenticación. El proveedor publicó correcciones, las cuales CERT Polska confirmó que evitaron los ataques que observaron.