Dies ist Teil unserer Serie, in der wir interne Beispiele dafür teilen, wie OpenAI seine eigene Technologie und APIs nutzt. Diese Tools werden intern bei OpenAI verwendet und werden hier als illustrative Beispiele dafür geteilt, wie KI an der Front Nutzungsfälle in unseren Teams unterstützt.
Ultrafast ist ein Hochgeschwindigkeitsmodus in Codex und ist für Ingenieure bei OpenAI zum Standard für die Reaktion auf Vorfälle geworden. Wenn etwas ausfällt, haben Ingenieure oft keine Zeit, Minuten auf eine Antwort zu warten, während sich das Problem verschärft. Mit Ultrafast können sie mehrere mögliche Ursachen gleichzeitig untersuchen und Antworten erhalten, ohne ihre Aufmerksamkeit aufteilen zu müssen.
„Wenn man zwei gleich intelligente Menschen nimmt und einer sich in einer Stunde zurückmeldet und der andere in einer Minute, dann ist der Zweite deutlich besser. Mit jemandem, der schneller reagiert, schafft man einfach viel mehr.“
Die Nadel im Heuhaufen finden
Aaron Friel, Member of the Technical Staff bei OpenAI, ist normalerweise derjenige, der bei einem Vorfall die Führung übernimmt. Er richtet einen Slack-Kanal für die Reaktion auf den Vorfall ein und richtet dann Codex auf das Problem aus, wobei er Codex bittet, zu überwachen, zu untersuchen und auftretende Fragen zu beantworten. „Bei jedem Vorfall gibt es normalerweise viele Zwischenschritte, bei denen etwas schiefgelaufen sein könnte, und die richtige Nadel im richtigen Heuhaufen zu finden, ist wirklich die Hauptaufgabe der Leute in diesem Kanal“, sagt er. „Mit Ultrafast kann ich im Wesentlichen alle diese Heuhaufen gleichzeitig durchsuchen und viel schneller auf Vorfälle reagieren.“
AJ Trbojevic, Member of the Technical Staff und Datacenter Security Architect, sagt, Untersuchungen zu Sicherheitsproblemen hätten früher ein bis zwei Stunden gedauert, um strukturierte und unstrukturierte Daten zusammenzuführen, zu normalisieren und Kontext für eine Entscheidung bereitzustellen. „Jetzt passiert das in 10 bis 15 Minuten“, sagt er. „Und manchmal ist es nahezu Echtzeit.“
Adam Perry und Sayan Sisodiya arbeiten beide am Core-Agent-Team und entwickeln den Code, der es Codex ermöglicht, Aktionen auszuführen, Befehle auszuführen und Tools zu nutzen. Ultrafast hat verändert, wie sie bei Sicherheitsvorfällen arbeiten. „Früher habe ich Codex gebeten, etwas zu untersuchen, und habe es dann gleichzeitig selbst untersucht, weil ich wusste, dass es nicht schnell genug sein würde, um einfach zu warten“, sagt Adam. „Jetzt ist Codex mit Ultrafast schnell genug, sodass ich mich ganz auf eine Sache konzentrieren kann, statt meine Aufmerksamkeit zu teilen.“
Sayan schätzt, wie Ultrafast es ihm ermöglicht, sofortige Antworten aus mehreren Datenquellen zu erhalten: „Daran vorbei, nur in einem Vorfall durch Protokolle zu graben, nutze ich Codex auch, um Slack zu durchsuchen, um zu sehen, ob es Verweise auf möglicherweise verdächtige Änderungen gibt oder ob Leute an anderer Stelle in Slack über ähnliche Symptome sprechen“, sagt er.
Schnelle Antworten in unter 30 Sekunden
Wenn es länger als 30 Sekunden dauert, mit KI eine Antwort zu finden, checkt Jeff Niu, ein weiterer Member of the Technical Staff, lieber Slack oder chattet mit einem Kollegen. Aber der Großteil seiner Arbeit liegt jetzt dank Ultrafast unter dieser Schwelle. Früher stellte er Codex eine Frage, wechselte während des Denkens zu etwas anderem und kehrte zurück, nachdem er den Faden verloren hatte. Jetzt findet dieses Gespräch in Echtzeit statt; das hilft ihm, sich auf die jeweilige Aufgabe zu konzentrieren.
Ultrafast macht Jeff auch bereitwilliger, große Refactorings anzugehen, weil die Überarbeitung bestehenden Codes weniger Zeit kostet. „Technische Schulden sind jetzt viel leichter abzubauen als je zuvor“, sagt er. „Code ist billig, und jetzt ist er sehr schnell produziert. Ein Refactoring, das früher viel gekostet hat, passiert fast augenblicklich.“
Arbeiten als Copilot
Adam führt einen laufenden Codex-Thread, den er seinen Chief of Staff nennt. Jeden Morgen sagt er ihm, welche Meetings er hat und welche Nachrichten er vielleicht vergessen hat zu beantworten. „Er hat bereits alle Daten durchgesehen, um diese Zusammenfassung zu schreiben, also wenn ich eine Nachfrage stelle, wartet er nicht darauf, erst mehr abzurufen“, sagt er. „Ich kann einfach weiter Fragen in derselben Unterhaltung stellen, genau wie bei einem echten Chief of Staff.“
Sayan nutzt Codex, um mühsame manuelle Arbeit im Browser zu erledigen, wie das Ausfüllen von Formularen – etwas, das er previously vermieden hat, weil es zu langsam war. „Er hat einen Browser geöffnet, saß fünf Sekunden da und dachte nach, klickte etwas an, saß wieder da“, sagt er. Mit den Verbesserungen der neuesten Modelle bei der Computernutzung lässt er Codex diese Arbeit lieber erledigen. „Jetzt ist es für mich völlig in Ordnung, ihn durch den Browser klicken zu lassen, und er ist schnell genug, sodass ich keine Zeit verliere, indem ich es nicht selbst mache.“
In der Reaktion auf Vorfälle, der täglichen Planung und beim Refactoring ermöglicht Ultrafast dem technischen Personal von OpenAI, mit Codex im Tempo ihrer Fragen zu arbeiten. Sie können zu einer Antwort nachfragen, einen anderen Ansatz ausprobieren und weiterarbeiten, ohne den Faden zu verlieren. Diese kürzere Wartezeit verändert auch, wozu sie bereit sind anzupacken – von einem Refactoring, das sie aufgeschoben hatten, bis hin zu einer Routineaufgabe, die sich endlich zu delegieren lohnt.