Retell AI(새 창에서 열림) 은(는) 콜센터 운영을 위한 음성 AI 플랫폼으로, 기업이 질문에 답변하고, 조치를 취하고, 필요 시 발신자를 상담사와 연결하는 에이전트를 구축하도록 돕습니다. 이 플랫폼은 현재 4,000개 이상의 기업에 서비스를 제공하고 있으며, 월간 통화량은 2026년 초 30백만 건에서 9월까지 100백만 건 이상으로 성장하고 있습니다.
Retell은 복잡한 워크플로를 가진 더 많은 기업에 서비스를 제공하면서, OpenAI 모델을 활용해 통화 품질과 신뢰성을 높게 유지하고 있습니다. 현재 Retell에서 이루어지는 통화의 80%에서 OpenAI 모델이 응답을 생성하며, 고객들은 80%를 넘는 해결률을 달성하고 있습니다. Retell은 또한 OpenAI 모델에서 소비된 토큰 수가 1조를 넘어섰으며, 이는 그 채택 규모를 반영합니다.
Retell의 엔지니어들은 익숙하지 않은 코드 조사부터 기능 구축, 버그 디버깅에 이르기까지 개발 전반에서 Codex를 사용하고, 프런트엔드 인터페이스 테스트에는 GPT‑6 Astra를 사용합니다.
"우리는 고객이 벤더를 선택하는 방식, 즉 데모가 아닌 실제 통화를 기준으로 모델을 선택합니다. OpenAI는 그 자리를 계속 지켜내고 있습니다."—빙 우(Bing Wu), Retell AI 공동창업자 겸 CEO
실시간 통화의 요구에 맞춰 OpenAI 모델 선택
기업용 음성 에이전트는 대화가 변하더라도 회사 정책을 따르고 지정된 역할 범위 내에 머물러야 합니다. Retell은 실제 프로덕션 시나리오에서 추출한 어렵고 다중 턴의 대화를 사용해 수십 개의 모델을 비교하는 vCX 벤치마크를 구축했습니다.
이 벤치마크는 모델이 지시를 얼마나 잘 따르는지, 주어진 정보에 얼마나 충실한지, 올바른 도구를 호출하는지, 자연스러운 대화 언어를 사용하는지를 테스트합니다. Retell의 2026년 10월 13일자 벤치마크에서 GPT‑6 Astra는 지시 이행 부문에서 89.7%로 1위를 차지했습니다.
Retell은 또한 GPT‑6 Astra 모델 출시 전에 수행한 평가 결과를 공유했는데, 이에 따르면 reasoning 활성화 시 GPT‑5.5가 비환각률(88.0%)과 도구 호출 정확성(88.3%) 두 항목 모두에서 모델 중 최고 순위를 기록하며 두 지표에서 Gemini‑3.1‑Pro와 Claude‑4.6을 능가했습니다. reasoning 비활성화 시에도 비환각률에서 선두였습니다.
Retell에 따르면 OpenAI 모델을 선택한 신규 고객은 이를 계속 사용하고 있습니다. 고객은 또한 Realtime API를 통해 OpenAI Realtime 모델과 음성 엔진으로서의 OpenAI 텍스트 음성 변환 기능에 접근할 수 있습니다. Retell은 새로운 OpenAI 모델이 출시되는 당일부터 이용할 수 있게 하고, 모델이 개선될 때마다 벤치마크를 다시 실행합니다.
에이전트로 80% 이상의 고객 요청 해결
콜센터 팀은 Retell을 사용해 에이전트의 비즈니스 맥락, 목표, 규칙을 정의합니다. 개발자는 워크플로와 통합을 추가로 구성할 수 있습니다.
통화 중 Retell의 하네스는 오디오 모델을 실행하고, 대화를 추적하며, 에이전트가 말하기, 듣기, 또는 끼어들기에 대응하는 시점을 관리합니다. GPT‑6.1 Sol, GPT‑6 Astra, GPT‑5.5를 포함한 OpenAI 모델은 고객의 지시와 대화 맥락을 사용해 응답을 생성하고 도구 호출을 요청합니다. Retell은 고객 시스템과의 통합을 통해 해당 호출을 실행하며, 결과를 고객 기록에 다시 기록할 수 있습니다.
사람의 판단이 필요한 경우, 음성 에이전트는 상담사에게 맥락을 브리핑하고 후속 질문에 답한 뒤, 상담사가 준비되었음을 확인한 후에 고객을 연결합니다. 통화 후에는 Retell이 GPT‑5.6 Terra를 사용해 전사 내용을 분석하고 결과 및 기타 데이터를 추출합니다.
이러한 접근 방식으로 Retell은 80%를 넘는 고객 해결률을 보고하고 있습니다. 전자기기 회사 Anker에서는 에이전트가 미국과 영국에서 주문 추적, 보증 확인, 문제 해결을 포함한 Tier‑1 사후 지원을 처리합니다. Anker는 80.4%의 케이스 해결률과 63의 순고객지수(NPS)를 보고했습니다. 또한 에이전트의 어조, 속도, 따뜻함이 인간 상담사에게 기대하는 수준에 부합했다고 팀은 밝혔습니다.
Pine Park Health에서는 Retell 에이전트가 예약 알림과 선제적 일정 조율을 처리하고 그 결과를 환자의 진료 기록에 기록합니다. 이 팀은 2.1개 정규직 역할에 해당하는 의료 보조 인력 시간을 확보해 환자 진료에 재투입했습니다. 일정 조율 에이전트는 환자에게 연결되었을 때 55.7%의 예약률을 달성했습니다.
통화량이 늘어나도 응답성 유지
Retell 플랫폼의 주간 트래픽은 야간 최저치의 50배를 넘을 수 있습니다. 최대 수요 시에도 통화 응답성을 유지하기 위해 Retell은 OpenAI와 함께 고객 전반에 공유되는 전용 서버를 사용합니다. Retell의 2026년 10월 13일자 벤치마크에서 GPT‑6 Astra와 GPT‑6 Sol은 각각 883밀리초의 중앙값 첫 문장 지연 시간을 기록했고, GPT‑5.6 Luna는 497밀리초로 최고 순위를 기록했습니다.
OpenAI의 지역별 API 엔드포인트를 통해 개발자는 트래픽을 특정 지역으로 라우팅할 수 있으며, 이는 Retell이 네트워크 이동 시간을 줄이고 의료, 금융 서비스 등 산업에서 고객의 데이터 레지던시 요건을 충족하는 데 도움이 됩니다.
Retell은 또한 서비스의 각 계층에 이중화를 구축합니다. 자체 전화 스택을 운영하면서 두 번째 스택을 인계 준비 상태로 두고, 음성 및 모델 서비스 백업을 함께 갖추어 서비스 장애 시에도 통화가 지속되도록 돕습니다.
Codex를 활용한 조사, 구축, 디버깅
Retell의 기업 고객 성장으로 맞춤형 워크플로와 통합 요청이 늘어나면서, 엔지니어들은 코드베이스의 익숙하지 않은 부분에서 작업해야 하는 경우가 많습니다. 코드를 작성하기 전에 Codex에 상위 수준의 요구 사항을 전달하면, Codex가 코드를 조사하고 실제 데이터와 대조하며 무엇을 변경해야 하는지 설명합니다. 한 엔지니어는 Codex가 이러한 조사를 자신보다 더 잘, 그리고 훨씬 더 빠르게 수행했다고 말했습니다.
구현 과정에서 엔지니어들은 Codex가 자신들이 미처 고려하지 못한 세부 사항을 자주 포착한다고 말합니다. 디버깅 시에는 Codex가 로그와 데이터베이스 레코드를 코드와 교차 참조하여 무슨 일이 일어나고 있는지 조사합니다. Retell의 엔지니어들은 또한 OpenAI 모델을 기반으로 구축하는 고객과의 작업에서 Codex를 사용하여, 고객의 애플리케이션에서 모델의 응답 방식을 안내하는 지침 작성과 같은 작업을 가속화합니다.
웹 인터페이스의 변경 사항을 테스트하기 위해 Retell은 GPT‑6 Astra의 컴퓨터 사용 기능에 의존합니다. 엔지니어가 프런트엔드 풀 리퀘스트를 열면 GPT‑6 Astra가 인터페이스를 열고, 클릭하며, 흐름을 테스트하고, 이를 깨뜨리려 시도한 후 발견한 문제를 보고합니다. Retell은 이전 모델로는 이 작업을 안정적으로 수행할 수 없었다고 말합니다.
Retell은 계속 채용하고 있지만, 엔지니어링 팀은 비즈니스만큼 빠른 속도로 성장할 필요가 없었습니다. Retell은 직원 1인당 연간 1.6 million 달러의 매출 런레이트를 보고하고 있습니다.
“Codex를 사용함으로써 엔지니어링 팀은 어떤 종류의 어려운 작업이든 함께할 수 있는 가상의 팀원을 갖게 되었습니다.”—Bing Wu, 공동창업자 겸 CEO, Retell AI
고객 전문성을 실무에 활용하기
모든 비즈니스는 고객을 어떻게 서비스하고 싶은지 알고 있습니다. Retell의 목표는 그 업무에 가장 가까운 사람들이 고급 음성 AI와 자신만의 에이전트를 구축, 테스트, 개선할 수 있는 플랫폼을 사용하여 전문성을 직접 적용할 수 있도록 하는 것입니다. 다음으로 Retell은 품질 보증 및 시뮬레이션을 확장하고, 더 많은 언어를 지원하며, 지식 베이스 자동 학습을 개발할 계획입니다.
OpenAI 모델이 계속 발전함에 따라 Retell은 고객들이 자신만의 방식으로 수백만 명의 발신자에게 세계 최고 수준의 서비스를 제공할 것으로 기대합니다.
“어떤 회사의 고객도 그 회사 자신보다 더 잘 아는 사람은 없습니다. 우리는 고객이 그 전문성을 바탕으로 행동하고 AI 에이전트를 직접 개선할 수 있는 힘을 제공합니다. 목표는 고객이 모든 것을 소유하고 운영하는 사내 배치 엔지니어로 구성된 사내 팀을 구축하는 것입니다.”라고 Bing은 말합니다.