Esto forma parte de nuestra serie que comparte ejemplos internos de cómo OpenAI está usando su propia tecnología y APIs. Estas herramientas se están usando internamente, en OpenAI, y se comparten aquí como ejemplos ilustrativos de cómo la IA de frontera apoya casos de uso en nuestros equipos.
Ultrafast es un modo de alta velocidad en Codex, y para los ingenieros de OpenAI, se ha convertido en la opción predeterminada para la respuesta a incidentes. Cuando algo se rompe, los ingenieros a menudo no tienen tiempo de esperar minutos por una respuesta mientras el problema se agrava. Con Ultrafast, pueden investigar múltiples causas potenciales a la vez y obtener respuestas sin dividir su atención.
“Si tomas a dos humanos igual de inteligentes, y uno te responde en una hora y el otro te responde en un minuto, la segunda persona es mucho mejor. Simplemente vas a lograr mucho más con alguien que responde más rápido.”
Encontrar la aguja en el pajar
Aaron Friel, Miembro del Equipo Técnico en OpenAI, suele ser quien lidera la respuesta ante un incidente. Crea un canal de Slack para la respuesta al incidente y luego apunta a Codex hacia el problema, pidiéndole a Codex que monitoree, investigue y responda cualquier pregunta a medida que surgen. “En cualquier incidente, generalmente hay muchos saltos en el camino de lo que pudo haber salido mal, y encontrar la aguja correcta en el pajar correcto es realmente el trabajo principal de las personas en ese canal”, dice. “Usando Ultrafast, puedo esencialmente buscar en todos esos pajares al mismo tiempo, y responder a los incidentes mucho más rápido.”
AJ Trbojevic, Miembro del Equipo Técnico y Arquitecto de Seguridad de Centros de Datos, dice que las investigaciones sobre problemas de seguridad solían tomar una o dos horas para reunir datos estructurados y no estructurados, normalizarlos y proporcionar contexto para tomar una decisión. “Ahora eso sucede en 10 a 15 minutos”, dice. “Y a veces es casi en tiempo real.”
Adam Perry y Sayan Sisodiya trabajan ambos en el equipo del agente central, construyendo el código que permite a Codex tomar acciones, ejecutar comandos y usar herramientas. Ultrafast ha cambiado cómo operan durante los incidentes de seguridad. “Antes, le pedía a Codex que investigara algo, y luego lo investigaba yo mismo al mismo tiempo, porque sabía que no sería lo suficientemente rápido como para simplemente esperar”, dice Adam. “Ahora con Ultrafast, Codex es lo suficientemente rápido como para que pueda mantenerme enfocado en lugar de dividir mi atención.”
Sayan aprecia cómo Ultrafast le permite obtener respuestas inmediatas de múltiples fuentes de datos: “Más allá de solo revisar registros en un incidente, uso Codex para buscar en Slack si hay referencias a cambios que puedan ser sospechosos o personas hablando de síntomas similares en otras partes de Slack”, dice.
Respuestas rápidas en menos de 30 segundos
Si toma más de 30 segundos encontrar una respuesta con IA, Jeff Niu, otro Miembro del Equipo Técnico, dice que revisará Slack o hablará con un compañero de trabajo. Pero la mayor parte de su trabajo ahora está por debajo de ese umbral con Ultrafast. Solía hacerle una pregunta a Codex, cambiar a otra cosa mientras pensaba, y regresar habiendo perdido el hilo de sus pensamientos. Ahora esa conversación sucede en tiempo real; lo ayuda a mantenerse enfocado en la tarea en cuestión.
Ultrafast también hace que Jeff esté más dispuesto a abordar refactorizaciones grandes, porque rehacer el código existente toma menos tiempo. “La deuda técnica es mucho más fácil de pagar ahora de lo que jamás fue antes”, dice. “El código es barato, y ahora es muy rápido de producir. Una refactorización que antes costaba mucho sucede casi instantáneamente.”
Trabajar como copiloto
Adam mantiene un hilo de Codex continuo que llama su jefe de personal. Cada mañana le dice qué reuniones tiene y qué mensajes podría haber olvidado responder. “Ya ha revisado todos los datos para escribir ese resumen, así que cuando hago una pregunta de seguimiento, no está esperando a buscar más”, dice. “Puedo seguir haciendo preguntas en la misma conversación como con un jefe de personal real.”
Sayan usa Codex para hacer trabajos manuales tediosos en el navegador, como llenar formularios, algo que antes evitaba porque era demasiado lento. “Abría un navegador, se quedaba pensando durante cinco segundos, hacía clic en algo, se quedaba de nuevo”, dice. Con las mejoras en el uso de computadoras de los últimos modelos, está más cómodo dejando que Codex maneje ese trabajo. “Ahora estoy totalmente de acuerdo con dejar que haga clic por el navegador y es lo suficientemente rápido como para que no pierda tiempo por no hacerlo yo mismo.”
En la respuesta a incidentes, la planificación diaria y la refactorización, Ultrafast permite al Personal Técnico de OpenAI trabajar con Codex al ritmo de sus preguntas. Pueden hacer un seguimiento de una respuesta, probar otro enfoque y seguir trabajando sin perder el hilo de sus pensamientos. Esa espera más corta también cambia lo que están dispuestos a emprender, desde una refactorización que habrían pospuesto hasta una tarea rutinaria que finalmente vale la pena delegar.