OpenAI来源发布时间

Retell 使用 OpenAI 模型助力每月 100M 次通话

Retell AI⁠(在新窗口中打开) 是一个面向联络中心运营的语音AI平台,帮助企业构建能够回答问题、采取行动,并在需要时将来电者转接给人工的代理。其平台目前服务超过4,000家企业,月呼叫量从2026年初的3,000万通增长到9月份的超过1亿通。

Retell AI⁠(在新窗口中打开) 是一个面向联络中心运营的语音AI平台,帮助企业构建能够回答问题、采取行动,并在需要时将来电者转接给人工的代理。其平台目前服务超过4,000家企业,月呼叫量从2026年初的3,000万通增长到9月份的超过1亿通。

随着Retell服务更多拥有复杂工作流程的企业,它使用OpenAI模型来保持呼叫的高质量和可靠性。如今,Retell上80%的呼叫响应由OpenAI模型生成,客户的问题解决率超过80%。Retell在OpenAI模型上的累计token消耗也已超过1万亿,反映了其应用规模。

Retell的工程师在整个开发过程中使用Codex,从研究陌生代码到构建功能和调试问题,并使用GPT‑6 Astra测试前端界面。

“我们选择模型的方式就像客户选择供应商一样:基于真实通话,而不是演示。OpenAI不断赢得自己的位置。”
——Retell AI联合创始人兼首席执行官Bing Wu
Retell AI语音代理平台的产品演示。

为实时通话的严苛要求选择OpenAI模型

企业语音代理需要遵守公司政策并恪守分配的角色,即使对话不断变化。Retell构建了其vCX基准,使用来自真实生产场景的困难多轮对话来比较数十个模型。

该基准测试模型遵循指令、基于所提供信息保持准确、调用正确工具以及使用自然对话语言的能力。在Retell于2026年10月13日进行的基准测试中,GPT‑6 Astra以89.7%的指令遵循率排名第一。

Retell还分享了在GPT‑6 Astra模型发布前进行的评估,结果显示,在启用推理的情况下,GPT‑5.5在非幻觉率(88.0%)和工具调用正确性(88.3%)两项指标上均排名最高,在这两项指标上都优于Gemini‑3.1‑Pro和Claude‑4.6。在关闭推理的情况下,它在非幻觉率上也处于领先。

Retell表示,选择OpenAI模型的新客户会持续使用这些模型。客户还可以通过Realtime API使用OpenAI Realtime模型,以及使用OpenAI文本转语音作为语音引擎。Retell在新的OpenAI模型发布当天即予提供,并随着模型改进重新运行其基准测试。

通过代理解决超过80%的客户请求

联络中心团队使用Retell定义其代理的业务背景、目标和规则。开发者还可以进一步配置工作流程和集成。

在通话过程中,Retell的运行框架会运行音频模型、跟踪对话,并管理代理何时发言、倾听或响应打断。包括GPT‑6.1 Sol、GPT‑6 Astra和GPT‑5.5在内的OpenAI模型利用客户的指令和对话上下文来生成响应并请求工具调用。Retell通过与客户系统的集成执行这些调用,并可将结果写回客户记录。

当需要人工判断时,语音代理会向客服代表提供背景信息、回答其后续问题,并确认其准备就绪后再接通客户。通话结束后,Retell使用GPT‑5.6 Terra分析通话记录并提取结果和其他数据。

通过这种方式,Retell报告客户问题解决率超过80%。在电子公司Anker,代理负责美国和英国的Tier-1售后支持,包括订单跟踪、保修检查和故障排除。Anker报告的案件解决率为80.4%,净推荐值(NPS)为63。其团队还表示,代理的语气、节奏和亲和力达到了他们对人工客服所期望的标准。

在Pine Park Health,Retell代理负责预约提醒和主动排程,并将结果记录在患者的医疗档案中。该团队挽回了相当于2.1个全职岗位的医疗助理时间,并将其重新投入到患者护理中。其排程代理在联系到患者时达到了55.7%的预约成功率。

在呼叫量增长的同时保持通话响应迅捷

Retell平台的日间流量可达夜间低谷的50倍以上。为了帮助在需求高峰时保持通话响应迅捷,Retell使用与OpenAI的专属服务器,并在其客户之间共享。在Retell于2026年10月13日进行的基准测试中,GPT‑6 Astra和GPT‑6 Sol的中位首句延迟均为883毫秒,而GPT‑5.6 Luna以497毫秒排名最高。

OpenAI的区域API端点允许开发者将流量路由到特定地理区域,这有助于Retell缩短网络传输时间,并满足医疗和金融服务等行业客户的数据驻留要求。

Retell还在服务的每一层都构建了冗余。它运行自己的电话技术栈,并有第二个技术栈随时准备接管,同时为语音和模型服务提供备份,以帮助在某个服务发生故障时保持通话运行。

使用Codex进行研究、构建和调试

随着Retell的企业增长带来更多对定制工作流程和集成的需求,其工程师经常需要在代码库的陌生部分工作。在编写代码之前,他们会向Codex提出高层级需求。Codex会调研代码,对照实际数据进行检查,并解释需要修改之处。一位工程师表示,Codex做这项研究比他自己做得更好、也快得多。

在实施过程中,工程师们表示 Codex 经常能发现他们未曾考虑到的细节。在调试方面,Codex 会将日志和数据库记录与代码进行交叉比对,以排查正在发生的情况。Retell 的工程师还在为基于 OpenAI 模型构建的客户开展工作时使用 Codex,以加快诸如编写指导模型在客户应用中如何响应的指令等任务。

为了测试对其网页界面的更改,Retell 依靠 GPT‑6 Astra 的计算机使用能力。当工程师提交一个前端拉取请求时,GPT‑6 Astra 会打开界面、逐一点击、测试流程、尝试破坏流程,并报告其发现的问题。Retell 表示,此前的模型无法可靠地完成这项工作。

Retell 仍在继续招聘,但其工程团队的规模不再需要以与业务相同的速度增长。Retell 报告的人均年经常性收入为 1.6 百万美元。

“通过使用 Codex,工程团队拥有了一个虚拟队友,可以与他们结对处理任何类型的困难任务。”
—Bing Wu,Retell AI 联合创始人兼首席执行官

让客户的专业知识发挥作用

每家企业都知道自己希望如何服务客户。Retell 的目标是让最贴近这项工作的人们直接运用他们的专业知识,借助先进的语音 AI 和一个让他们能够构建、测试并改进自己智能体的平台。接下来,Retell 计划扩展质量保障和仿真功能,支持更多语言,并开发知识库自动学习功能。

随着 OpenAI 模型不断进步,Retell 期待其客户能够按照自己的方式为数百万来电者提供世界级的服务。

“没有人比公司自身更了解它的客户。我们赋予他们运用这些专业知识并直接改进 AI 智能体的能力。目标是让他们建立一支由内部部署工程师组成的内部团队,负责并运营这一切,”Bing 说。

OpenAI <3 startups

加入社区开始构建(在新窗口中打开)
原始出处

OpenAI

内容说明

原始发布及相关权利归来源方。

机器翻译 · 请以原文为准