Retell AI öffnet sich in einem neuen Fenster ist eine Sprach-AI-Plattform für Contact-Center-Operationen, die Unternehmen dabei hilft, Agenten zu erstellen, die Fragen beantworten, Maßnahmen ergreifen und einen Anrufer bei Bedarf mit einer Person verbinden können. Seine Plattform dient jetzt mehr als 4.000 Unternehmen, wobei der monatliche Anrufvolumen von 30 Millionen im Frühsommer 2026 auf mehr als 100 Millionen bis September gestiegen ist.
Da Retell mehr Unternehmen mit komplexen Arbeitsabläufen bedient, nutzt es OpenAI-Modelle, um die Qualität und Zuverlässigkeit der Anrufe hoch zu halten. Heute erzeugen OpenAI-Modelle für 80% der Anrufe in Retell Antworten, wodurch die Kunden eine Lösungsrate von über 80% erreichen. Retell hat außerdem mehr als 1 Billionen Tokens durch die Nutzung von OpenAI-Modellen verbraucht, was die Größe dieser Adoption zeigt.
Die Ingenieure von Retell verwenden Codex während der gesamten Entwicklung – von der Erforschung unbekannten Codes bis zur Erstellung von Funktionen und Behebung von Fehlern – sowie GPT‑6 Astra, um die Frontend-Interaktionen zu testen.
„Wir wählen Modelle so, wie unsere Kunden Lieferanten auswählen: durch echte Anrufe, nicht durch Demo-Sessions. OpenAI behält seinen Platz.“—Bing Wu, Mitbegründer und CEO von Retell AI
Wahl von OpenAI-Modellen für die Anforderungen eines Live-Calls
Unternehmenssprachassistenten müssen die Unternehmensrichtlinien befolgen und innerhalb ihrer zugewiesenen Rollen bleiben – auch wenn die Gespräche sich ändern. Retell hat seinen vCX-Benchmark entwickelt, um Dutzende von Modellen zu vergleichen, indem er schwierige, mehrmalige Gespräche aus realen Produktionsszenarien verwendet.
Es testet, wie gut die Modelle Anweisungen befolgen, in den gegebenen Informationen bleiben, die richtigen Werkzeuge nutzen und natürliche Gesprächssprache verwenden. Im Benchmark vom 13. Oktober 2026 von Retell erreichte GPT‑6 Astra bei der Beobachtung von Anweisungen einen ersten Platz mit 89,7%.
Retell teilte außerdem die Bewertungen mit, die vor der Veröffentlichung des GPT‑6 Astra-Modells durchgeführt wurden, und zeigte, dass GPT‑5.5 bei beiden Kennzahlen am höchsten lag – sowohl bei der Rate ohne Halluzinationen (88,0 %) als auch bei der Korrektheit der Tool-Kommandos (88,3 %) unter Verwendung von Rechenfunktionen, wobei es die Gemini‑3.1‑Pro und Claude‑4.6 in beiden Bereichen überholte. Bei der Rate ohne Halluzinationen lag es außerdem vor Gemini‑3.1‑Pro.
Retell sagt, dass neue Kunden, die die OpenAI-Modelle wählen, weiterhin sie verwenden. Die Kunden haben außerdem Zugang zu den OpenAI Realtime-Modellen über die Realtime-API und zu OpenAI Text-to-Speech als Sprachengine. Retell macht die neuen OpenAI-Modelle am Tag ihrer Veröffentlichung verfügbar und wiederholt seine Benchmark-Tests, sobald die Modelle verbessert werden.
Mehr als 80 Prozent der Kundenanfragen werden durch Agenten gelöst
Die Kontaktzentrum-Teams verwenden Retell, um den Geschäftskontext, die Ziele und die Regeln ihrer Agenten zu definieren. Entwickler können weiterhin Workflows und Integrationen konfigurieren.
Während einer Anrufe führt Retells Harness die Audio-Modelle aus, überwacht das Gespräch und bestimmt, wann der Agent spricht, zuhört oder auf Unterbrechungen reagiert. Die OpenAI-Modelle, einschließlich GPT‑6.1 Sol, GPT‑6 Astra und GPT‑5.5, nutzen die Anweisungen des Kunden und den Kontext des Gesprächs, um Antworten zu generieren und Tool-Calls zu senden. Retell führt diese Calls durch Integration mit dem System des Kunden aus und kann die Ergebnisse wieder in die Kundendaten eintragen.
Wenn menschliches Urteilsvermögen erforderlich ist, gibt der Sprachassistent dem Vertreter Kontext an, beantwortet seine Nachfragen und bestätigt, dass er bereit ist, bevor die Kundanfrage abgehalten wird. Nach einer Anruf nutzt Retell GPT‑5.6 Terra, um die Transkripte zu analysieren und Ergebnisse sowie andere Daten zu extrahieren.
Mit dieser Methode erzielen Retell eine Kundenlösungsrate von über 80%. Bei der Elektronikfirma Anker übernehmen die Agenten den Tier‑1 Nachverkaufssupport in den USA und dem UK, einschließlich Bestandsverfolgung, Wartungstests und Fehlersuche. Anker berichtete über eine Falllösungsrate von 80,4% und einen Net Promoter Score (NPS) von 63. Ihr Team sagte außerdem, dass der Tonfall, die Geschwindigkeit und die Herzlichkeit der Agenten den Standards entsprachen, die sie von einem menschlichen Agenten erwarteten.
Bei Pine Park Health übernehmen die Retell-Agenten die Erinnerungen bezüglich Terminen und die proaktive Terminplanung und dokumentieren die Ergebnisse in den medizinischen Akten der Patienten. Das Team hat die Zeit der medizinischen Assistenten, die dem Ausmaß von 2,1 Vollzeitpositionen entspricht, wieder in die Patientenversorgung umgewandelt. Der Terminplaner erreichte eine Buchungsrate von 55,7% beim Erreichen eines Patienten.
Die Anrufe responsiv halten, während das Volumen zunimmt
Der Tagestransit auf der Plattform von Retell kann mehr als 50-mal höher sein als der Nachtwert. Um Anrufe auch bei hoher Nachfrage schnell verfügbar zu halten, nutzt Retell dedizierte Server mit OpenAI, die gemeinsam von seinen Kunden genutzt werden. Im Benchmark vom 13. Oktober 2026 von Retell erreichte GPT‑6 Astra und GPT‑6 Sol jeweils eine mittlere Latenzzeit der ersten Sätze von 883 Millisekunden, wobei GPT‑5.6 Luna mit 497 Millisekunden am höchsten platziert war.
Die regionalen API-Endpunkte von OpenAI ermöglichen es Entwicklern, den Datenverkehr zu bestimmten geografischen Regionen zu leiten. Dadurch kann Retell die Netzwerkreisezeit reduzieren und die Anforderungen an die Datenspeicherung der Kunden in Branchen wie Gesundheitswesen und Finanzdienstleistungen erfüllen.
Retell fügt außerdem Redundanz in jede Schicht des Services ein. Es verwendet seine eigene Telefonie-Stack, mit einem zweiten Stack, der bereit ist, die Verantwortung zu übernehmen, sowie Backups für die Sprach- und Modelldienste, um die Anrufe während eines Dienstausfalls aufrechtzuerhalten.
Verwendung von Codex zur Erforschung, Entwicklung und Fehlerbehebung
Da das Unternehmenswachstum von Retell mehr Anfragen für personalisierte Workflows und Integrationen erfordert, müssen seine Ingenieure oft in unbekannten Teilen des Codebases arbeiten. Bevor sie Code schreiben, geben sie Codex eine hohe-Level-Anforderung mit. Codex untersucht den Code, überprüft ihn gegen aktuelle Daten und erklärt, was verändert werden muss. Ein Ingenieur sagte, dass Codex diese Forschung besser und viel schneller erledigt als er selbst könnte.
Während der Umsetzung sagen Ingenieure, dass Codex oft Details erfasst, die sie nicht berücksichtigt hatten. Für das Debugging verknüpft Codex Logs und Datenbanken mit dem Code, um herauszufinden, was vor sich geht. Auch die Ingenieure von Retell nutzen Codex bei ihrer Arbeit mit Kunden, die OpenAI-Modelle entwickeln, um Aufgaben wie die Erstellung der Anweisungen zu beschleunigen, die zeigen, wie das Modell in der Anwendung des Kunden reagiert.
Um die Änderungen an der Web-Oberfläche zu testen, verwendet Retell den Computer von GPT‑6 Astra. Wenn ein Ingenieur einen Frontend-Pull-Request öffnet, startet GPT‑6 Astra die Interaktion, führt sie durch, testet die Prozesse, versucht, sie zu unterbrechen und meldet die festgestellten Probleme. Retell sagt, dass frühere Modelle diese Aufgabe nicht zuverlässig ausführen konnten.
Retell beschäftigt weiterhin Menschen, aber das Engineering-Team musste nicht im gleichen Tempo wie das Unternehmen wachsen. Retell berichtet von einer jährlichen Einnahme von 1,6 Millionen US-Dollar pro Mitarbeiter.
„Durch die Verwendung von Codex hat das Ingenieurtrio einen virtuellen Teamkollegen, mit dem es bei allen schwierigen Aufgaben zusammenarbeiten kann.“—Bing Wu, Mitbegründer und CEO von Retell AI
Die Expertise der Kunden nutzen
Jeder Unternehmen weiß, wie es seine Kunden bedienen möchte. Das Ziel von Retell ist es, den Menschen, die am nächsten dran sind, ihre Expertise direkt nutzen zu lassen, indem sie eine fortschrittliche Sprach-KI und eine Plattform verwenden, die es ihnen ermöglicht, ihre eigenen Agenten zu erstellen, zu testen und zu verbessern. Danach plant Retell, die Qualitätskontrolle und Simulation auszubauen, mehr Sprachen zu unterstützen und eine automatische Wissensdatenbank zu entwickeln.
Da die OpenAI-Modelle weiter voranschreiten, erwartet Retell, dass seine Kunden Millionen von Anrufern eine Weltklasse-Dienstleistung auf eigenen Bedingungen anbieten.
„Niemand kennt die Kunden eines Unternehmens besser als das Unternehmen selbst. Wir geben ihnen die Macht, diese Expertise zu nutzen und die AI-Agenten direkt zu verbessern. Das Ziel ist, dass sie ein interner Team von intern eingesetzten Ingenieuren aufbauen, die alles verwalten und betreiben“, sagt Bing.