应用和智能体在整个工作流中会做出许多小型决策:如何对输入进行分类、将请求路由到何处,或下一步采取哪种行动。单个来看,它们都很简单。但在大规模下,它们的延迟和成本会不断累积。
今天,我们正式发布 Decisions API 的全面可用版本。它基于 GPT‑6 Luna构建,Decisions API 将 Luna 的智能聚焦于有边界答案的问题,帮助应用和智能体从文本、图像和结构化输入中做出近乎实时的决策,速度比通过 Responses API 使用 GPT‑6 Luna 快达 10 倍。
自公开测试版以来,我们添加了原生 GPT‑Live 集成、针对重复使用上下文的提示缓存,以及在美国和欧盟的推理驻留。开发者还可以传入原生 JSON 输入、在问题指令中包含图像,并在每个请求中最多提出 400 个问题,是此前限制的两倍。我们还持续改进延迟,包括在亚洲多个地区增加了额外容量。
团队如何使用 Decisions API
对 Decisions 的早期采用表明它适用于各种用例。
在 OpenAI 内部,各团队正在产品和业务工作流中应用 Decisions API。dots 团队正在使用它来缩短响应时间并提升交互性。我们的个人理财团队正在使用它对交易描述进行分类,而我们的传播团队正在使用 Decisions 按主题对报道进行分类,并评分判断其是强化还是挑战关键叙事——这有助于识别哪些内容值得进一步审查。
这些早期示例展示了快速、结构化的决策如何在广泛的用例中将传入信息转化为有用的行动。客户对 Decisions API 的应用同样广泛,从准确归因 AI 成本到让语言学习体验更具互动性。
第 1 页,共 5 页“借助 Box Extract 和 Decisions API ,我们对业务文档进行分类并将其路由到正确的下一步。在我们的评估中, Decisions API 在 30 个保险证明案例中实现了约 5 倍更快的路径选择,准确率与 Responses API 相同——从而将日常工作自动化,并将置信度较低的案例发送给审核人员。”
选择您的应用所需的决策类型
使用 Decisions API 非常简单:开发者定义一个问题及其允许的答案,然后以文本、图像或原生 JSON 的形式提供上下文。该 API 返回三种受支持答案类型之一——概率、选择或评分——应用可以用它来确定接下来发生什么。答案类型的多样性使 Decisions 能够适用于各种各样的用例。
Decisions API 支持三种答案类型:
类型 | 用于 | 主要结果 |
|---|---|---|
predicate | 估计某个条件为真的概率,例如某产品是否有可见损坏。 | probability:一个从 0 到 1 的估计值,表示该条件为真的概率。 |
choice | 从您预定义的选项中选择一个,例如智能体应该继续、重试还是请求澄清。 | choice:您提供的值之一。响应还包括概率和置信度。 |
score | 根据有序的评分标准等级对输入进行评分,例如损坏的严重程度。 | score:各等级索引按概率加权后的平均值。 |
使用 Decisions API 和 GPT‑Live 构建实时语音体验
借助 GPT‑Live,您可以为语音应用带来自然、富有表现力的对话,并借助流畅的中断处理保持对话的连贯性。Decisions API 现在 原生集成了 GPT‑Live(在新窗口中打开),帮助应用在实时对话中快速做出专注的决策。客服坐席可以决定是提出澄清问题、转接请求还是升级问题。虚拟形象可以在用户与其对话时调整面部表情,并根据用户的话语以眨眼或微笑作出回应,从而创造更具互动性的体验。
下面的示例使用 transcript 更新来选择虚拟形象的表情。将此配置添加到 session.triggers 现有的 GPT‑Live 会话中。
JSON
1{2 "type": "decisions",3 "event_type": "session.input_transcript.delta",4 "decisions": {5 "questions": [{6 "type": "choice",7 "name": "reaction",8 "instructions": "Choose an appropriate reaction for the avatar based on the user's latest message.",9 "choices": [10 { "value": "neutral" },11 { "value": "happy" },12 { "value": "sad" },13 { "value": "concerned" }14 ]15 }]16 }17}Live 会发出一个 decision.event;应用程序读取所选的 reaction 并相应地为角色制作动画。 了解如何将语音连接到 Decisions API。 (在新窗口中打开)
亲自试用搭载 GPT‑Live 的 Decisions
麦克风关闭在你开始之前麦克风保持关闭
表情面板
点按一个表情脸进行预览。
实时决策
观看 Decisions API 如何根据你们每个人所说的话选择面部表情。
你的话
观察你说话时的反应。
助手的话
观察助手回答时的表情。
试着说
我为我的猫排练了我的试镜。她中途走了出去。
此演示有时间限制。使用它即表示你同意 OpenAI 的 条款 并确认我们的 隐私政策.
构建并评估你的第一个决策
Decisions API 今日正式发布,通过专用 Decisions 端点使用 GPT‑6 Luna。请参阅 定价和可用性指南(在新窗口中打开) 以了解当前的费率和缓存详情。
从你的应用程序经常做的一个重复性决策开始。定义问题、可能的答案以及区分它们所需的上下文。在 Decisions Playground(在新窗口中打开) 中使用你自己的文本或图像,在反映真实用法的示例上进行测试,或按照 开发者指南(在新窗口中打开) 以发出你的第一个请求。
Decisions API 的费用为每百万输入 tokens 0.10 美元。缓存的输入费用为每百万 tokens 0.01 美元。对于 30 分钟和 12 小时的缓存写入, 请阅读我们的定价指南。(在新窗口中打开) 你只需为输入 tokens 付费:没有输出 token 的费用。区域处理在美国和欧盟可用,并且 零数据保留(在新窗口中打开) 面向符合条件的客户提供。详情请参阅 定价与缓存(在新窗口中打开) 和 数据控制 (在新窗口中打开)。