En Block, la empresa detrás de Square, Cash App y Afterpay, el equipo de seguridad aprovecha la OpenAI Defense Factory: donde la IA se encarga del descubrimiento, la detección y la respuesta a vulnerabilidades a una escala que ningún equipo humano podría seguir. Con sistemas de IA que incluyen OpenAI Daybreak, Block tarda solo horas en hacer un trabajo que antes tomaba semanas.
“La IA está comprimiendo el tiempo desde la intención humana hasta la acción. Durante un tiempo, se asumió que existía una ventaja para el atacante, ya que son más rápidos y ágiles. Pero con cosas como Daybreak y los avances en las herramientas de OpenAI, los defensores pueden luchar contra el fuego con fuego y mantenerse al ritmo acelerado de la adopción de la IA”.—James Nettesheim, Chief Information Security Officer, Block
El equipo de seguridad de Block se ha centrado en adoptar la IA de manera responsable en todos los flujos de trabajo, ya sea en la generación de código o en las operaciones de seguridad. “Lo que realmente está en el centro es tener un nuevo compañero de equipo con el que puedas escalar”, dice James Nettesheim, Chief Information Security Officer. “No es como la automatización más tradicional, donde tenías que ir paso a paso. Puedes plantearte un problema bastante personalizado y ambiguo y resolverlo juntos”.
Proyectos como revisar un error de software o analizar un registro tardarían días o semanas en completarse. Ahora el equipo puede completar esos proyectos en una fracción del tiempo, con un humano que aún valida cada resultado.
Por ejemplo, para el ajuste de detección, cada investigación almacena su evidencia de consulta en bruto, por lo que el equipo ahora puede reproducir un cambio de detección propuesto contra siete meses de telemetría de producción en menos de una hora. Ese trabajo solía significar reconsultar cientos de casos antiguos a mano, y a menudo rara vez sucedía en la práctica porque era tan laborioso.
El equipo también se ha vuelto más exigente sobre qué modelo usar para cada trabajo. “Antes usábamos el modelo más reciente, pero ya no es necesario hacerlo”, dice. “Ha sido una experiencia de aprendizaje elegir diferentes modelos para diferentes tareas”. El arnés de seguridad de Block está construido sobre Daybreak para ayudar a enrutar las tareas al modelo adecuado, e incluye puntos de enganche para que los humanos tomen el control de las tareas o para que los agentes verifiquen el trabajo de los demás. El equipo evalúa continuamente estos sistemas contra benchmarks internos y el rendimiento en el mundo real, ajustando su enfoque cuando es necesario, incluido el envío del trabajo a revisión humana cuando ese es el camino responsable.
El sistema de triaje automatizado ha resultado en un trabajo más rápido (y en mayor cantidad) completado. El equipo de seguridad de Block ha visto un aumento del 50% en el rendimiento del triaje, un incremento del 50% en la recopilación de inteligencia y las investigaciones, y una capacidad completamente nueva de caza autónoma. Nettesheim dice: “Esto realiza ~1,100 horas de analista de investigación por trimestre, porque ahora cada alerta recibe una investigación completa y profunda de todos los elementos que involucra. Nuestro sistema trabaja cada alerta como si fuera la única que tenemos ese día”.
La OpenAI Defense Factory en acción
Las herramientas de escaneo tradicionales señalan una única vulnerabilidad de forma aislada, pero el equipo de seguridad de Block puede ir mucho más lejos con Daybreak. El modelo ayuda a formular hipótesis sobre patrones de ataque y a encadenar una serie de ataques en una ruta completa de compromiso de extremo a extremo, sacando a la luz vulnerabilidades que podrían haber existido durante años.
En un caso, una alerta en una sola computadora portátil parecía por sí sola un problema menor de política. Pero durante la revisión por pares, el modelo siguió un indicador que aparecía solo incidentalmente en la evidencia, lo cruzó con los registros de identidad de Block y sacó a la luz un conjunto de problemas mucho más grande. “Una alerta de endpoint de rutina se convirtió en el desmantelamiento de una campaña. Ninguna herramienta por sí sola hace ese cruce. La señal solo existe en los registros de dos productos”, dice James.
Otro ejemplo en el que Daybreak ayudó fue durante un reciente ejercicio de equipo rojo. Al modelo se le dieron algunas pistas sobre un sistema interno, y encadenó una ruta de ataque completa—inyección SQL, escalada de privilegios, un punto de apoyo, enumeración de credenciales y un salto a otros sistemas—en aproximadamente dos horas. Esto normalmente le tomaría a un integrante humano de un equipo rojo varios días. En ejercicios recientes de equipo rojo, el tiempo desde la presentación de una vulnerabilidad de alto nivel hasta un parche propuesto automatizado fue de 18 minutos.
Encontrar las vulnerabilidades solo es tan bueno como la capacidad de corregirlas. Nettesheim describe el proceso que su equipo usa en cada hallazgo: localizar dónde vive el problema en el código e identificar quién es su responsable, y luego pasar a la remediación. “Propones un parche, confirmas la explotabilidad y luego verificas que lo has corregido, con un humano en el circuito que lo guía y despliega los cambios en el código”.
Si bien los agentes son técnicamente capaces, no llevan el contexto de una organización ni el razonamiento detrás de decisiones anteriores. Un humano proporciona ese contexto y esa estrategia, y ahí es donde su equipo entra a proporcionar una capa humana de revisión. A medida que el juicio de la IA se demuestra en la práctica, Nettesheim dice: “escalaremos lentamente el nivel de riesgo para usarla en sistemas más sensibles”.
Resultados de un vistazo
Menos de una hora para reproducir un cambio de detección propuesto contra siete meses de telemetría.
18 minutos desde la presentación de una vulnerabilidad de alto nivel hasta un parche propuesto automatizado en ejercicios recientes de equipo rojo.
Aproximadamente 600 horas de analista por trimestre de triaje de falsos positivos devueltas.
Aproximadamente 1,100 horas de analista de investigación completadas por trimestre.
Aumento del 50% en el rendimiento del triaje.
Incremento del 50% en la recopilación de inteligencia y las investigaciones.
¿Qué sigue?
Solo el trabajo de detección y respuesta ha devuelto aproximadamente 600 horas de analista por trimestre que antes se destinaban a triar falsos positivos. Con ese tiempo recuperado, el equipo ahora dedica más tiempo a investigaciones más profundas y a construir más automatización de manera responsable.
A medida que el ritmo de los ataques aumenta y los modelos de IA siguen avanzando, Nettesheim ve una oportunidad para reducir la cantidad de vulnerabilidades que se introducen desde el principio. Eso liberaría a los equipos de seguridad para pasar menos tiempo aplicando parches y más tiempo en trabajo preventivo y estratégico.
“OpenAI está trasladando la ventaja a los defensores al poner estas capacidades avanzadas en manos de todos”, dice. “Normalmente solo habían estado en manos de empresas tecnológicas de muy alto perfil y de gobiernos. Pero todos, incluida la infraestructura crítica, las escuelas y las pequeñas empresas, ahora pueden comenzar a utilizar esta tecnología para defender sus redes.”