En Block, la empresa que está detrás de Square, Cash App y Afterpay, el equipo de seguridad utiliza la OpenAI Defense Factory: donde la IA gestiona el descubrimiento, la detección y la respuesta a las vulnerabilidades en una escala que ningún equipo humano puede alcanzar. Con sistemas de IA como OpenAI Daybreak, Block necesita solo horas para realizar tareas que antes requerían semanas.
“La IA está comprimiendo el tiempo desde la intención humana hasta la acción. Durante un tiempo, se asumió que existía una ventaja para los atacantes, ya que son más rápidos y ágiles. Pero con herramientas como Daybreak y los avances en las herramientas de OpenAI, los defensores pueden enfrentarse al fuego con el fuego y mantenerse al ritmo acelerado de la adopción de la IA.”—James Nettesheim, Jefe de Seguridad de la Información, Block
El equipo de seguridad de Block se ha centrado en adoptar de manera responsable la IA en los flujos de trabajo, ya sea en la generación de código o en las operaciones de seguridad. “Lo que realmente se enfoca es tener un nuevo compañero de equipo con el que se puede escalar”, dice James Nettesheim, Director de Seguridad de Información. “No es como una automatización tradicional, donde hay que seguir paso a paso. Se puede solicitarle una tarea bastante específica y ambigua y trabajar juntos en ella”.
Proyectos como revisar un error en el software o analizar un registro tomarían días o semanas para completarse. Ahora, el equipo puede finalizar esos proyectos en una fracción del tiempo, aunque una persona sigue validando cada resultado.
Por ejemplo, para el ajuste de detección, cada investigación almacena las pruebas de consultas brutas, de modo que el equipo puede ahora reproducir un cambio propuesto de detección contra siete meses de telemetría de producción en menos de una hora. En el pasado, este trabajo implicaba volver a realizar consultas manualmente para cientos de casos antiguos, y con frecuencia rara vez se realizaba en la práctica debido a su gran costo de tiempo.
El equipo también se ha vuelto más específico sobre qué modelo utiliza para cada tarea. “Antes usábamos el modelo más reciente, pero ya no es necesario hacerlo”, dice él. “Ha sido una experiencia de aprendizaje elegir diferentes modelos para diferentes tareas”. El arnés de seguridad de Block está construido sobre Daybreak para ayudar a enrutar las tareas al modelo correcto, y incluye ganchos para que los humanos tomen las tareas o para que los agentes verifiquen el trabajo del otro. El equipo evalúa constantemente estos sistemas en comparación con puntos de referencia internos y el rendimiento en el mundo real, ajustando su enfoque cuando es necesario, incluyendo la asignación del trabajo de enrutamiento a la revisión humana cuando esa sea la vía más adecuada.
El sistema de triaje automatizado ha permitido que se realice más trabajo (y en mayor cantidad) de forma más rápida. El equipo de seguridad de Block ha observado un aumento del 50% en la capacidad de triaje, un incremento del 50% en la recopilación de información y las investigaciones, y una capacidad de búsqueda autónoma completamente nueva. Nettesheim dice: “Esto permite realizar aproximadamente 1,100 horas de investigación por trimestre, ya que cada alerta ahora requiere una investigación completa y detallada en todos los aspectos relacionados con ella”. Nuestro sistema trata cada alerta como si fuera la única que tenemos ese día.
La Fábrica de Defensa de OpenAI en funcionamiento
Las herramientas de escaneo tradicionales identifican una sola vulnerabilidad por separado, pero el equipo de seguridad de Block puede ir mucho más allá con Daybreak. El modelo ayuda a hacer hipótesis sobre los patrones de ataque y a unir una serie de ataques en una ruta completa de compromiso end-to-end, revelando vulnerabilidades que podrían haber existido durante años.
En un caso, una alerta en un único portátil parecía ser un problema menor de política por sí solo. Pero durante la revisión por pares, el modelo siguió un indicador que aparecía solo incidentalmente en las pruebas, lo combinó con los registros de identidad de Block y se reveló un conjunto mucho mayor de problemas. “Una alerta de punto final rutinaria se convirtió en una eliminación de campaña. Ningún único herramienta permite esa combinación. La señal solo existe en los registros de dos productos”, dice James.
Otro ejemplo en el que Daybreak ayudó fue durante un reciente ejercicio de equipo rojo. Al modelo se le dieron algunas pistas sobre un sistema interno, y en aproximadamente dos horas se creó un camino completo de ataque: inyección de SQL, escalada de privilegios, una posición establecida, enumeración de credenciales y un paso a otros sistemas. Esto normalmente llevaría varios días para un especialista en equipo rojo humano. En los últimos ejercicios de equipo rojo, el tiempo desde la presentación de una vulnerabilidad de alto nivel hasta la aplicación automática de un parche fue de 18 minutos.
Encontrar las vulnerabilidades no es tan importante como la capacidad de repararlas. Nettesheim describe el proceso que su equipo utiliza para cada hallazgo: localizar dónde se encuentra el problema en el código e identificar quién es responsable, y luego proceder a la corrección. “Se propone una corrección, se confirma la posibilidad de explotación, y luego se verifica que realmente se ha solucionado el problema, con una persona involucrada para guiarlo y desplegar los cambios de código”.
Aunque los agentes son técnicamente capaces, no poseen el contexto de la organización ni el razonamiento detrás de las decisiones anteriores. El ser humano proporciona ese contexto y esa estrategia, y es ahí donde su equipo interviene para ofrecer una capa humana de revisión. Dado que el juicio de la IA ha demostrado su eficacia en la práctica, Nettesheim dice: “Aumentaremos gradualmente el nivel de riesgo para utilizarla en sistemas más sensibles”.
Resultados de un vistazo
Menos de una hora para volver a ejecutar un cambio de detección propuesto frente a siete meses de telemetría.
18 minutos desde la presentación de una vulnerabilidad de alto nivel hasta la aplicación automática del parche propuesto en los recientes ejercicios de equipo rojo.
Aproximadamente 600 horas de análisis por trimestre de la triaje de positivos falsos devueltas.
Aproximadamente 1,100 horas de investigación de analistas se completan por trimestre.
Aumento del 50% en el rendimiento de la triaje.
Aumento del 50% en la recopilación de inteligencia y las investigaciones.
¿Qué sigue?
El trabajo de detección y respuesta por sí solo ha devuelto aproximadamente 600 horas de análisis por trimestre, que antes se utilizaban para la clasificación de falsos positivos. Con ese tiempo recuperado, el equipo ahora dedica más tiempo a investigaciones más profundas y a construir más automatización de manera responsable.
A medida que el ritmo de ataque aumenta y los modelos de IA continúan evolucionando, Nettesheim ve una oportunidad para reducir el número de vulnerabilidades introducidas desde el principio. Esto permitiría a los equipos de seguridad dedicar menos tiempo a la corrección de errores y más tiempo a tareas preventivas y estratégicas.
“OpenAI está transfiriendo la ventaja a los defensores al poner estas capacidades avanzadas en manos de todos”, dice él. “Normalmente, solo han estado en manos de empresas tecnológicas de gran renombre y gobiernos. Pero ahora, todos, incluyendo la infraestructura crítica, las escuelas y las pequeñas empresas, pueden comenzar a utilizar esta tecnología para defender sus redes”.