Esto es parte de nuestra serie que comparte ejemplos internos de cómo OpenAI utiliza su propia tecnología y APIs. Estas herramientas se utilizan internamente en OpenAI, y se comparten aquí como ejemplos ilustrativos de cómo la inteligencia artificial avanzada ayuda a los casos de uso en todos nuestros equipos.
Ultrafast es un modo de alta velocidad en Codex, y para los ingenieros de OpenAI, se ha convertido en el estándar para la respuesta ante incidentes. Cuando algo falla, los ingenieros a menudo no tienen tiempo de esperar minutos por una respuesta mientras el problema se agrava. Con Ultrafast, pueden investigar múltiples causas potenciales al mismo tiempo y obtener respuestas sin dispersar su atención.
“Si tomas a dos personas igualmente inteligentes, y una regresa en una hora y la otra en un minuto, la segunda persona es mucho mejor. Simplemente lograrás mucho más con alguien que responde más rápido”.
Encontrar la aguja en el pajar
Aaron Friel, miembro del personal técnico de OpenAI, es generalmente quien dirige el incidente. Crea un canal de Slack para la respuesta al incidente y luego utiliza Codex para abordar el problema, pidiendo a Codex que monitoree, investigue y responda cualquier pregunta que surja. “En cualquier incidente, suelen haber muchos pasos en el camino por los que podría ocurrir algo incorrecto, y encontrar la solución correcta es realmente la tarea principal de las personas que forman parte de ese canal”, dice él. “Con Ultrafast, puedo buscar esencialmente todos esos archivos al mismo tiempo y responder a los incidentes mucho más rápido”.
AJ Trbojevic, miembro del personal técnico y arquitecto de seguridad de datacenters, dice que las investigaciones sobre problemas de seguridad antes tomaban una o dos horas para combinar datos estructurados y no estructurados, normalizarlos y proporcionar el contexto necesario para tomar una decisión. “Ahora esto se hace en 10 a 15 minutos”, afirma. “Y a veces es casi en tiempo real”.
Adam Perry y Sayan Sisodiya trabajan en el equipo de agentes centrales, desarrollando el código que permite a Codex realizar acciones, ejecutar comandos y utilizar herramientas. Ultrafast ha cambiado la forma en que operan durante incidentes de seguridad. “Antes, pedía a Codex que investigara algo y luego yo mismo lo investigaba al mismo tiempo, porque sabía que no sería suficientemente rápido simplemente esperar”, dice Adam. “Ahora, con Ultrafast, Codex es lo suficientemente rápido para que yo pueda mantenerme concentrado en una sola tarea, en lugar de dividir mi atención”.
Sayan aprecia cómo Ultrafast le permite obtener respuestas inmediatas de múltiples fuentes de datos: “Más que simplemente revisar los registros en un incidente, uso Codex para buscar en Slack si hay referencias a cambios que podrían ser sospechosos o personas que hablan de síntomas similares en otros lugares de Slack”, dice.
Respuestas rápidas en menos de 30 segundos
Si lleva más de 30 segundos encontrar una respuesta con la IA, Jeff Niu, otro miembro del personal técnico, dice que revisará Slack o chateará con un colega. Pero la mayor parte de su trabajo ahora está por debajo de ese umbral con Ultrafast. Antes, hacía una pregunta a Codex, cambiaba a otra cosa mientras el sistema pensaba, y luego volvía sin haber mantenido la continuidad en sus pensamientos. Ahora esa conversación ocurre en tiempo real; esto le ayuda a mantenerse enfocado en la tarea que tiene entre manos.
Ultrafast también hace que Jeff esté más dispuesto a llevar a cabo grandes refactorizaciones, porque reescribir el código existente requiere menos tiempo. “La deuda técnica es mucho más fácil de resolver ahora que nunca”, dice él. “El código es barato, y ahora es muy rápido producirlo. Un refactor que antes costaba mucho se realiza casi al instante”.
Trabajando como co-piloto
Adam mantiene un hilo en curso llamado Codex, que él considera como su jefe de personal. Cada mañana, este hilo le informa sobre las reuniones que tiene y sobre los mensajes a los que podría haber olvidado responder. “Ya se han analizado todos los datos para escribir ese resumen, así que cuando hago una consulta posterior, no hay necesidad de esperar a obtener más información”, dice. “Solo puedo seguir haciendo preguntas en la misma conversación, como lo haría un verdadero jefe de personal”.
Sayan utiliza Codex para realizar trabajos manuales tediosos en el navegador, como rellenar formularios: algo que antes evitaba porque era muy lento. “Se abre el navegador, se está allí pensando durante cinco segundos, hace clic en algo y vuelve a quedarse allí”, dice. Con las mejoras en los modelos más recientes en el uso de la computadora, se siente más cómodo permitir que Codex haga ese trabajo por él. “Ahora estoy completamente bien con dejar que pase por el navegador, y es lo suficientemente rápido como para no perder tiempo al no hacerlo yo mismo”.
En lo que respecta a la respuesta a incidentes, la planificación diaria y el refactoring, Ultrafast permite que el personal técnico de OpenAI trabaje con Codex al ritmo de sus preguntas. Pueden seguir una respuesta, probar otro enfoque y seguir trabajando sin perder su flujo de pensamiento. Esa espera más corta también cambia lo que están dispuestos a asumir: pasan de un refactoring que habrían pospuesto a una tarea rutinaria que finalmente vale la pena delegar.