Dies ist Teil unserer Serie, in der wir interne Beispiele zeigen, wie OpenAI seine eigene Technologie und APIs verwendet. Diese Tools werden intern bei OpenAI eingesetzt und hier als exemplarische Beispiele veröffentlicht, um zu zeigen, wie Frontier AI die Anwendungsfälle in unseren Teams unterstützt.
Ultrafast ist ein Hochgeschwindigkeitsmodus in Codex, und für Ingenieure bei OpenAI ist er zur Standardmethode für die Reaktion auf Vorfälle geworden. Wenn etwas kaputtgeht, haben Ingenieure oft keine Zeit, Minuten zu warten, bis eine Antwort kommt, während das Problem sich weiter verstärkt. Mit Ultrafast können sie mehrere mögliche Ursachen gleichzeitig untersuchen und Antworten erhalten, ohne ihre Aufmerksamkeit aufteilen zu müssen.
„Wenn Sie zwei gleich intelligenten Menschen nehmen und einer innerhalb einer Stunde und der andere innerhalb eines Minuten wieder bei Ihnen erscheint, ist die zweite Person viel besser. Mit jemandem, der schneller reagiert, können Sie viel mehr erreichen.“
Die Nadel im Heuhaufen finden
Aaron Friel, Mitglied des technischen Teams bei OpenAI, ist normalerweise derjenige, der für die Bearbeitung eines Vorfalls verantwortlich ist. Er erstellt einen Slack-Kanal für die Reaktion auf Vorfälle und weist anschließend Codex an, den Problem zu überwachen, zu untersuchen und alle Fragen zu beantworten, sobald sie eintreten. „In jedem Vorfall gibt es meist viele mögliche Fehlerquellen, und die richtige Lösung im großen Durcheinander zu finden ist die Hauptaufgabe der Leute in diesem Kanal“, sagt er. „Mit Ultrafast kann ich im Grunde alle diese Datenmengen gleichzeitig durchsuchen und auf Vorfälle viel schneller reagieren.“
AJ Trbojevic, Mitglied des technischen Personals und Architekt für Datensicherheit im Datacenter, sagt, dass früher die Untersuchungen zu Sicherheitsproblemen eine Stunde oder zwei dauerten, um strukturierte und unstrukturierte Daten zusammenzuführen, sie zu normalisieren und Kontext zu geben, damit eine Entscheidung getroffen werden kann. „Heute dauert das in 10 bis 15 Minuten“, sagt er. „Und manchmal ist es fast im Echtzeitverfahren.“
Adam Perry und Sayan Sisodiya arbeiten beide im Core-Agent-Team und entwickeln den Code, der Codex ermöglicht, Aktionen durchzuführen, Befehle auszuführen und Tools zu verwenden. Ultrafast hat die Art und Weise, wie sie bei Sicherheitsvorfällen arbeiten, verändert. „Früher bat ich Codex, etwas zu untersuchen, und dann untersuchte ich es selbst gleichzeitig, weil ich wusste, dass es nicht schnell genug war, einfach nur zu warten“, sagt Adam. „Jetzt mit Ultrafast ist Codex schnell genug, sodass ich mich auf eine Sache konzentrieren kann, anstatt meine Aufmerksamkeit auf zwei Dinge gleichzeitig zu verteilen.“
Sayan schätzt, wie Ultrafast ihm sofortige Antworten aus mehreren Datenquellen liefert: „Neben dem Durchsuchen von Protokollen bei Vorfällen verwende ich Codex, um in Slack nach Hinweisen auf Änderungen zu suchen, die verdächtig sein könnten, oder nach Personen, die ähnliche Symptome an anderer Stelle in Slack erwähnen“, sagt er.
Schnelle Antworten in unter 30 Sekunden
Wenn es mehr als 30 Sekunden dauert, eine Antwort mit der AI zu finden, sagt Jeff Niu, ein weiterer Mitarbeiter des technischen Teams, dass er den Slack-Channel oder mit einem Kollegen chattet. Doch die meisten seiner Aufgaben liegen jetzt unter diesem Zeitrahmen mit Ultrafast. Früher stellte er Codex eine Frage, wechselte dann zu etwas anderem, während Codex nachdachte, und kehrte zurück – ohne seine Gedanken im Griff zu haben. Jetzt findet die Kommunikation in Echtzeit statt; das hilft ihm, sich auf die vorliegende Aufgabe zu konzentrieren.
Ultrafast macht Jeff außerdem bereiter, große Refactoring-Projekte anzugehen, weil die Überarbeitung bestehender Code kürzer dauert. „Technischer Schulden können jetzt viel einfacher abgebaut werden als je zuvor“, sagt er. „Code ist billig, und heute ist die Erstellung sehr schnell. Ein Refactoring, das früher viel Zeit kostete, geschieht jetzt fast sofort.“
Arbeiten als Copilot
Adam hält eine laufende Threads des Codex bei, die er seinen Stabschef nennt. Jeden Morgen gibt sie ihm mit, welche Meetings er hat und welche Nachrichten er vergessen hat zu beantworten. „Es wurde bereits alle Daten durchgesehen, um diese Zusammenfassung zu erstellen, also wartet es nicht darauf, weitere Daten abzurufen“, sagt er. „Ich kann einfach weiterhin Fragen in derselben Konversation stellen, genau wie ein echter Stabschef.“
Sayan verwendet Codex, um im Browser langwierige manuelle Arbeiten zu erledigen, wie das Ausfüllen von Formularen – etwas, was er früher vermieden hatte, weil es zu langsam war. „Er öffnet einen Browser, sitzt da und denkt fünf Sekunden lang, klickt etwas, setzt sich wieder hin“, sagt er. Durch die Verbesserungen bei den neuesten Modellen im Computergebrauch fühlt er sich wohler, wenn Codex diese Arbeit übernimmt. „Jetzt ist es mir völlig in Ordnung, es über den Browser durchzulassen, und es ist schnell genug, sodass ich keine Zeit verliere, wenn ich es nicht selbst mache.“
Im Bereich der Incident-Response, des täglichen Plansens und der Refactoring-Prozesse ermöglicht Ultrafast dem technischen Personal von OpenAI, mit Codex im Tempo ihrer Fragen zu arbeiten. Sie können eine Antwort weiterverfolgen, einen anderen Ansatz ausprobieren und weiterarbeiten, ohne ihre Denkfähigkeit zu verlieren. Die kürzere Wartezeit ändert auch das, was sie bereit sind zu übernehmen – von einer Refactoring-Aufgabe, die sie aufschieben würden, zu einer Routineaufgabe, die endlich delegiert werden kann.