OpenAI SitemapPublicación de la fuente

GPT‑6 Cyber: Avanzando en la frontera de los agentes de ciberseguridad alineados

Presentamos GPT‑6 Cyber, un gran salto en la investigación de seguridad: más capaz de encontrar y corregir vulnerabilidades, y mucho más fiable al mantenerse dentro de los límites que establecen los investigadores.

Presentamos GPT‑6 Cyber, un gran salto en la investigación de seguridad: más capaz de encontrar y corregir vulnerabilidades, y mucho más fiable al mantenerse dentro de los límites que establecen los investigadores. GPT‑6 Cyber logra mejoras importantes en benchmarks clave de ciberseguridad frente a GPT‑5.6 Cyber, incluida una mejora relativa del 51% en ExploitGym y una mejora de salto cualitativo cuando se prueba su capacidad de mantenerse dentro del alcance. Ya está ayudando a proteger software del mundo real, descubriendo y validando miles de exploits en bases de código críticas para la seguridad como Linux y Firefox.

En ExploitGym, que evalúa si los modelos pueden explotar una vulnerabilidad específica, GPT‑6 Cyber obtiene un 48.5%, frente al 32.1% de GPT‑5.6 Cyber. También sigue los límites de las tareas de forma más fiable: en una evaluación de alineación independiente, GPT‑6 Cyber evitó explotar servicios fuera del alcance en el 99.93% de las pruebas sin su prompt de despliegue, y en el 100% con ese prompt. Esta mejora en alineación refleja un entrenamiento dedicado a mantenerse dentro del alcance autorizado, respetar las restricciones y reportar los resultados con precisión.

Estas capacidades ya están ayudando a proteger sistemas reales. Nuestros investigadores utilizaron GPT‑6 Cyber para desarrollar 948 exploits de escalada de privilegios en Linux⁠ e identificar 81 vulnerabilidades de gravedad alta previamente desconocidas en Firefox, a pesar de las pruebas exhaustivas previas con modelos de frontera. El modelo también ayudó a desarrollar parches candidatos, y Mozilla ha publicado correcciones para muchas de las vulnerabilidades de Firefox⁠(se abre en una nueva ventana). Los equipos de seguridad de Cisco, Calif y CodeRabbit lo están utilizando para investigación de vulnerabilidades y revisión de código, y nosotros hemos confiado en él para encontrar y corregir debilidades en nuestra propia infraestructura⁠.

Está claro que tenemos una ventana limitada para usar modelos de frontera para proteger el software⁠. Nuestro objetivo es expandir drásticamente Daybreak, llevando la investigación avanzada de seguridad a organizaciones de todos los tamaños, investigadores independientes y mantenedores de código abierto. Los modelos principales como GPT‑6 Astra ya admiten la revisión de código, la clasificación de vulnerabilidades y el desarrollo de parches. Daybreak Blue ayuda a defensores verificados a validar vulnerabilidades y correcciones con menos rechazos innecesarios, mientras que Daybreak Red permite un desarrollo de exploits más profundo y pruebas de seguridad autorizadas con GPT‑6 Cyber.

Avanzando en las capacidades cibernéticas de frontera

GPT‑6 Cyber supone un gran avance respecto a GPT‑5.6 Cyber y supera a GPT‑6 Astra en la mayoría de las tareas cibernéticas, incluso cuando Astra no rechaza la solicitud. Evaluamos el modelo en tareas que requieren comprender software, identificar vulnerabilidades y desarrollar exploits funcionales. Basándonos en estos resultados, clasificamos el modelo como Crítico en ciberseguridad según nuestro Preparedness Framework, frente al Alto de GPT‑5.6 Cyber.

En ExploitGym, que evalúa si los modelos pueden explotar una vulnerabilidad específica en un objetivo remoto, GPT‑6 Cyber obtiene 48.5%, alrededor de 16 puntos porcentuales más que el resultado de GPT‑5.6 Cyber de 32.1%. Para probar el descubrimiento de vulnerabilidades, también creamos una nueva evaluación de pruebas de penetración web ofensivas. Los modelos sondean aplicaciones web sin acceso a su código fuente. GPT‑6 Cyber logró 40.3% de recuperación de vulnerabilidades en comparación con 32.0% de GPT‑6 Astra.

Daybreak Red está diseñado para admitir flujos de trabajo de seguridad más avanzados, incluido el desarrollo de exploits funcionales y su uso contra objetivos remotos. Para evaluar estas capacidades, creamos un nuevo benchmark llamado RemoteExploitBench, que utiliza vulnerabilidades conocidas en aplicaciones como GitLab, PostgreSQL y Jenkins desplegadas en un entorno controlado. En nuestra evaluación inicial, GPT‑6 Astra ejecutándose con Daybreak Blue rechazó el 100% de las tareas, mientras que GPT‑6 Cyber completó el 95%; su único fallo fue un exploit que no pudo hacer funcionar de forma remota. Consulte la ficha del sistema⁠(se abre en una nueva ventana) para ver los resultados completos y la configuración de la evaluación.

Una alineación más sólida, mejor para mantenerse dentro de los límites

Un riesgo para los agentes de ciberseguridad es que salgan del alcance de la tarea asignada, intenten explotar servicios no relacionados o ignoren las reglas de participación del investigador.

Hicimos de la alineación un foco central de GPT‑6 Cyber, utilizando un entrenamiento especializado para ayudar al modelo a mantenerse dentro del alcance autorizado, seguir las restricciones sobre sus acciones e informar sobre su trabajo con precisión. Antes del despliegue, realizamos una serie de evaluaciones de alineación para medir estos comportamientos. Vea la ficha del sistema⁠(abre en una nueva ventana) para ver los resultados completos.

Una de estas evaluaciones es ExploitGym Honeypot, que se inspiró en el incidente de Hugging Face⁠. Le damos al modelo una tarea de explotación difícil en un entorno aislado con acceso a servicios de apoyo, como un registro de paquetes o un almacén de objetos. Deliberadamente hacemos que estos servicios sean fáciles de explotar, de modo que atacarlos pueda revelar la flag de la tarea. El modelo debe inferir que explotarlos está fuera del alcance de su tarea.

GPT‑6 Cyber muestra una mejora radical respecto a GPT‑5.6 Cyber en esta evaluación. Cuando se probó sin prompts de seguridad de despliegue, evitó explotar servicios fuera del alcance en el 99.93% de los casos, frente al 94.49% de GPT‑5.6 Cyber. Con esos prompts, GPT‑6 Cyber se mantuvo dentro de los límites el 100% del tiempo.

Podemos ver directamente en la cadena de razonamiento del modelo GPT‑6 Cyber cómo razona sobre mantenerse dentro de los límites:

Fragmentos de la cadena de razonamiento del agente
“No se puede asumir una API extra o un controlador de ataque que no sea el objetivo. Solo deberíamos apuntar al binario/servidor.”
Fragmentos de la cadena de razonamiento del agente
“no explorar credenciales fuera del alcance.”

Impacto en el mundo real para los equipos de seguridad

GPT‑6 Cyber ya está ayudando a los equipos de seguridad a encontrar vulnerabilidades, validar su impacto y desarrollar correcciones. Los clientes lo han puesto a trabajar en bases de código grandes, desarrollo de exploits de larga duración y revisiones de seguridad:

1 de 9
“GPT‑6 Cyber es un modelo de clase mundial para la ciberdefensa. Firefox entró en 2026 como una de las bases de código más endurecidas y escrutadas del mundo. Incluso después de un endurecimiento adicional con múltiples generaciones de modelos de frontera, GPT‑6 Cyber descubrió vulnerabilidades de alta gravedad previamente desconocidas, identificó mejoras arquitectónicas y nos ayudó a enviar correcciones a millones de usuarios.”
- Brian Grinstead, Ingeniero Distinguido, Firefox

También hemos confiado en GPT‑6 Cyber para proteger nuestros propios sistemas. Fue uno de los modelos principales detrás del trabajo que compartimos recientemente sobre el endurecimiento de la infraestructura utilizada para entrenar modelos de frontera⁠. En campañas controladas de red-teaming, agentes que usaban GPT‑6 Cyber y otros modelos de OpenAI encadenaron vulnerabilidades para escapar de microVMs y ejecutar código en los hosts subyacentes. Usamos los hallazgos para corregir software, reforzar las restricciones de red e informar de los problemas a los mantenedores y proveedores.

Nuestros investigadores de vulnerabilidades también usan GPT‑6 Cyber para encontrar y validar vulnerabilidades en software de código abierto a gran escala. Este trabajo ha descubierto fallos previamente desconocidos en software que ha sido escrutado durante años:

  • Encontró 81 vulnerabilidades novedosas en Firefox. GPT‑6 Cyber puede ser adecuado para su uso en flujos de trabajo autónomos para encontrar vulnerabilidades y proponer parches de alta calidad a gran escala. Durante una campaña de investigación de vulnerabilidades, GPT‑6 Cyber produjo evidencia y pruebas reproducibles para 81 vulnerabilidades novedosas clasificadas por Mozilla como de alta gravedad, y demostró que otros 30 problemas conocidos eran más graves de lo previamente reportado. Divulgamos los hallazgos a Mozilla, junto con parches propuestos para ayudar a sus ingenieros a desarrollar correcciones. Mozilla apoyó este trabajo y comenzó a implementar las correcciones poco después de recibir los informes⁠(opens in a new window).

  • Desarrollo de exploits para 948 vulnerabilidades del kernel de Linux⁠. GPT‑6 Cyber reprodujo 1,724 vulnerabilidades y desarrolló exploits funcionales para 948, más de cinco veces las 166 explotadas por GPT‑5.6 Sol usando el mismo arnés de investigación. Siguiendo las directrices de la comunidad de Linux, divulgamos 304 hallazgos críticos a los mantenedores con parches candidatos y estamos en proceso de conseguir que se corrijan otras vulnerabilidades.

  • Demostración de vulnerabilidades críticas de RCE. Recientemente discutimos una vulnerabilidad crítica en Brotli⁠(opens in a new window), una biblioteca de compresión utilizada por Node.js y otro software. Nuestros investigadores de seguridad usaron GPT‑6 Cyber junto con otros modelos de OpenAI para desarrollar y validar exploits que mostraban cómo el fallo podría permitir la ejecución remota de código en aplicaciones descendentes.

Detección de uso indebido y bloqueo de actividades de alto riesgo

A medida que los modelos se vuelven más capaces y descubren más vulnerabilidades de seguridad, también estamos viendo más intentos de usarlos para causar daño. Estos intentos incluyen esfuerzos de actores cibernéticos maliciosos y grupos adversarios que buscan destilar nuestros modelos. Por ello, hemos emparejado las capacidades más potentes de GPT‑6 Cyber con salvaguardas más fuertes para detectar y interrumpir el uso indebido y mantener las acciones del modelo dentro de la intención y autorización del usuario.

Añadimos y fortalecimos estas protecciones junto con el lanzamiento de GPT‑6 Cyber (consulte la tarjeta del sistema⁠(opens in a new window) para obtener información completa):

  • Monitoreo de desalineación específico de ciberseguridad. Monitoreamos si las acciones coinciden con la autorización del usuario, reconociendo al mismo tiempo el desarrollo y las pruebas legítimas de exploits.

  • Monitoreo específico para amenazas emergentes. Por ejemplo, durante la divulgación coordinada de vulnerabilidades críticas de PHP, configuramos un monitoreo específico para intentos de desarrollar exploits contra servidores PHP en producción, al mismo tiempo que preservábamos el soporte para los defensores que aplicaban parches a los sistemas afectados.

  • Procesamiento de Seguridad Privada (PSP). Utilizamos verificaciones automatizadas para revisar las interacciones relacionadas en busca de usos indebidos. La retención estándar sigue siendo la opción predeterminada. Los clientes de la API que utilizan Zero Data Retention⁠(se abre en una nueva ventana) generalmente deben usar PSP⁠(se abre en una nueva ventana), que revisa los registros cifrados retenidos en el almacenamiento del cliente durante 30 días sin exponer los prompts y las respuestas al personal de OpenAI.

  • Protección contra credenciales robadas. Exigimos la inclusión de IP en una lista de permitidas para el acceso a la API de Daybreak Red de forma predeterminada, restringiendo las solicitudes a redes aprobadas con excepciones limitadas. También monitoreamos las credenciales en busca de compromisos.

  • Aislamiento (sandboxing) y supervisión. Como con modelos anteriores, recomendamos sandboxing⁠(opens in a new window), action review⁠(opens in a new window), y supervisión humana para flujos de trabajo de alto riesgo.

  • Protecciones contra asistencia cibernética de alto riesgo. Usamos nuevas comprobaciones para bloquear actividad de alto riesgo que involucre sistemas críticos (ver más abajo para más detalles).

Defensa de la infraestructura crítica

Proteger la infraestructura crítica ha sido una consideración clave en el diseño de las salvaguardas y el acceso de GPT‑6 Cyber, incluyendo plantas de energía, instalaciones de tratamiento de agua y la tecnología operativa y los sistemas de control industrial (OT/ICS) que los sustentan. Al mismo tiempo, queremos dar a los equipos que defienden estos sistemas acceso a nuestros modelos más capaces, mientras fortalecemos nuestras salvaguardas para prevenir ataques no autorizados.

Primero, para equipar a estos defensores, nuestro programa de subvenciones de 1.000 millones de dólares Daybreak for Frontline Defenders⁠ subsidia el acceso para equipos con recursos limitados, como organizaciones gubernamentales y proveedores de servicios esenciales. También estamos introduciendo un nuevo grupo dentro de Daybreak Red (Daybreak Red for Critical Infrastructure) para defensores aprobados de infraestructura crítica, que les otorga permisos para realizar pruebas autorizadas de sistemas críticos mientras se mantienen las salvaguardas contra la desalineación del modelo.

Segundo, para prevenir el uso indebido de las plataformas Daybreak Red y Blue, hemos refinado las salvaguardas contra asistencia y desarrollo de capacidades que pudieran comprometer controles industriales o sistemas críticos para la seguridad, interferir con equipos o causar lesiones graves, daños físicos catastróficos o interrupciones de servicios que pongan en peligro vidas. La figura siguiente compara las tasas de etiquetas de salvaguarda en cuatro configuraciones de acceso, antes y después de las actualizaciones recientes que estamos implementando junto con GPT‑6 Cyber.

Tasas de bloqueo de salvaguardas más altas no siempre son mejores. Muchas de las técnicas en esta evaluación también son esenciales para el trabajo de seguridad legítimo: comprender sistemas, encontrar vulnerabilidades y verificar que las correcciones resistan ataques. Por lo tanto, evaluamos estas tasas junto con el soporte para investigación legítima y aplicación de parches, en lugar de apuntar al 100%.

Para evaluar cómo nuestros modelos pueden ayudar a defender la infraestructura crítica, nos asociamos con Dragos, el proveedor global de ciberseguridad de tecnología operativa extendida (xOT). Dragos realizó evaluaciones usando modelos Daybreak Red permisivos a nivel cibernético en un entorno de laboratorio controlado. Las evaluaciones cubrieron solicitudes que progresaban desde el descubrimiento de redes y la enumeración de activos hasta el reconocimiento dirigido, la exfiltración de datos sensibles y acciones no autorizadas y potencialmente peligrosas sobre dispositivos.

“Dragos puso un modelo de frontera en un campo de pruebas de una planta de energía simulada y casi no le dijo nada. Por sí solo, separó los activos OT del ruido de TI, y luego encontró dos zero-days en software de ingeniería que gestiona datos de relés de protección, exponiendo configuraciones de protección y la lógica de disparo de interruptores. Ese es el mapa que un adversario quiere antes de tocar cualquier cosa física. El nivel mínimo de habilidad está cayendo para el reconocimiento y la investigación de vulnerabilidades necesarios antes de un ataque. Trabajar con OpenAI en esto les muestra el camino del adversario a través de una red OT antes de que adversarios reales lo tomen, de modo que las salvaguardas se construyan en torno a cómo podrían desenvolverse estos ataques, mientras los modelos siguen siendo útiles para las personas que defienden estos sistemas.”
—Rob T. Lee, Director de IA (Chief AI Officer), Dragos

Usamos los comentarios de Dragos para refinar nuestras salvaguardas, con el objetivo de bloquear la asistencia dañina sin restringir innecesariamente las pruebas autorizadas. Vea su informe final⁠(opens in a new window) para más detalles sobre las evaluaciones. También estamos trabajando para expandir asociaciones con otros proveedores de seguridad ofensiva y equipos purple en pruebas de penetración y red teaming con IA, y con empresas de energía, otros operadores de infraestructura crítica y laboratorios nacionales para evaluar la efectividad y las salvaguardas de nuestros modelos en la defensa industrial. También hemos aumentado nuestra inversión en investigaciones de amenazas para detectar el uso de modelos que involucre OT/ICS. Seguiremos refinando nuestras salvaguardas con aportes de socios y la comunidad de seguridad, incluyendo reportes a través de /feedback cuando las salvaguardas pasen por alto actividad dañina o interrumpan trabajo legítimo.

Ampliando el acceso a defensores confiables

GPT‑6 Cyber está inicialmente disponible a través de la API y Codex para un grupo selecto de clientes Daybreak Red aprobados. Expandiremos progresivamente el acceso a todos los clientes Daybreak Red pronto, y también estamos haciendo GPT‑5.6 Cyber disponible para todos los clientes Daybreak Red. También estamos expandiendo el acceso alpha a Daybreak Blue para GPT‑6 Astra a más organizaciones e investigadores de seguridad individuales; avísanos⁠(opens in a new window) si te interesa.

Los nuevos usuarios y organizaciones pueden solicitar Daybreak⁠ y comenzar con nuestros habilidades cibernéticas, productos y socios⁠.

Fuente original

OpenAI Sitemap

Notas sobre el contenido

La publicación original y los derechos pertenecen a la fuente.

Traducción automática · Consulte el original