OpenAI来源发布时间

使用 Decisions API 构建响应更迅速的应用

应用和智能体在整个工作流中会做出许多小型决策:如何对输入进行分类、将请求路由到何处,或下一步采取哪种行动。单个来看,它们都很简单。

应用和智能体在整个工作流中会做出许多小型决策:如何对输入进行分类、将请求路由到何处,或下一步采取哪种行动。单个来看,它们都很简单。但在大规模下,它们的延迟和成本会不断累积。

今天,我们正式发布 Decisions API 的全面可用版本。它基于 GPT‑6 Luna构建,Decisions API 将 Luna 的智能聚焦于有边界答案的问题,帮助应用和智能体从文本、图像和结构化输入中做出近乎实时的决策,速度比通过 Responses API 使用 GPT‑6 Luna 快达 10 倍。

自公开测试版以来,我们添加了原生 GPT‑Live 集成、针对重复使用上下文的提示缓存,以及在美国和欧盟的推理驻留。开发者还可以传入原生 JSON 输入、在问题指令中包含图像,并在每个请求中最多提出 400 个问题,是此前限制的两倍。我们还持续改进延迟,包括在亚洲多个地区增加了额外容量。

团队如何使用 Decisions API

对 Decisions 的早期采用表明它适用于各种用例。

在 OpenAI 内部,各团队正在产品和业务工作流中应用 Decisions API。dots 团队正在使用它来缩短响应时间并提升交互性。我们的个人理财团队正在使用它对交易描述进行分类,而我们的传播团队正在使用 Decisions 按主题对报道进行分类,并评分判断其是强化还是挑战关键叙事——这有助于识别哪些内容值得进一步审查。

这些早期示例展示了快速、结构化的决策如何在广泛的用例中将传入信息转化为有用的行动。客户对 Decisions API 的应用同样广泛,从准确归因 AI 成本到让语言学习体验更具互动性。

第 1 页,共 5 页
“借助 Box Extract 和 Decisions API ,我们对业务文档进行分类并将其路由到正确的下一步。在我们的评估中, Decisions API 在 30 个保险证明案例中实现了约 5 倍更快的路径选择,准确率与 Responses API 相同——从而将日常工作自动化,并将置信度较低的案例发送给审核人员。”
——Biswaroop Palit,Box 产品管理平台与集成副总裁

选择您的应用所需的决策类型

使用 Decisions API 非常简单:开发者定义一个问题及其允许的答案,然后以文本、图像或原生 JSON 的形式提供上下文。该 API 返回三种受支持答案类型之一——概率、选择或评分——应用可以用它来确定接下来发生什么。答案类型的多样性使 Decisions 能够适用于各种各样的用例。

Decisions API 支持三种答案类型:

类型

用于

主要结果

predicate

估计某个条件为真的概率,例如某产品是否有可见损坏。

probability:一个从 0 到 1 的估计值,表示该条件为真的概率。

choice

从您预定义的选项中选择一个,例如智能体应该继续、重试还是请求澄清。

choice:您提供的值之一。响应还包括概率和置信度。

score

根据有序的评分标准等级对输入进行评分,例如损坏的严重程度。

score:各等级索引按概率加权后的平均值。

使用 Decisions API 和 GPT‑Live 构建实时语音体验

借助 GPT‑Live,您可以为语音应用带来自然、富有表现力的对话,并借助流畅的中断处理保持对话的连贯性。Decisions API 现在 原生集成了 GPT‑Live⁠(在新窗口中打开),帮助应用在实时对话中快速做出专注的决策。客服坐席可以决定是提出澄清问题、转接请求还是升级问题。虚拟形象可以在用户与其对话时调整面部表情,并根据用户的话语以眨眼或微笑作出回应,从而创造更具互动性的体验。

下面的示例使用 transcript 更新来选择虚拟形象的表情。将此配置添加到 session.triggers 现有的 GPT‑Live 会话中。

JSON

1{2  "type": "decisions",3  "event_type": "session.input_transcript.delta",4  "decisions": {5    "questions": [{6      "type": "choice",7      "name": "reaction",8      "instructions": "Choose an appropriate reaction for the avatar based on the user's latest message.",9      "choices": [10        { "value": "neutral" },11        { "value": "happy" },12        { "value": "sad" },13        { "value": "concerned" }14      ]15    }]16  }17}

Live 会发出一个 decision.event;应用程序读取所选的 reaction 并相应地为角色制作动画。 了解如何将语音连接到 Decisions API。 ⁠(在新窗口中打开)

亲自试用搭载 GPT‑Live 的 Decisions

麦克风关闭

在你开始之前麦克风保持关闭

表情面板

点按一个表情脸进行预览。

实时决策

观看 Decisions API 如何根据你们每个人所说的话选择面部表情。

你的话

观察你说话时的反应。

助手的话

观察助手回答时的表情。

试着说

我为我的猫排练了我的试镜。她中途走了出去。

此演示有时间限制。使用它即表示你同意 OpenAI 的 条款⁠ 并确认我们的 隐私政策⁠.

构建并评估你的第一个决策

Decisions API 今日正式发布,通过专用 Decisions 端点使用 GPT‑6 Luna。请参阅 定价和可用性指南⁠(在新窗口中打开) 以了解当前的费率和缓存详情。

从你的应用程序经常做的一个重复性决策开始。定义问题、可能的答案以及区分它们所需的上下文。在 Decisions Playground⁠(在新窗口中打开) 中使用你自己的文本或图像,在反映真实用法的示例上进行测试,或按照 开发者指南(在新窗口中打开) 以发出你的第一个请求。

Decisions API 的费用为每百万输入 tokens 0.10 美元。缓存的输入费用为每百万 tokens 0.01 美元。对于 30 分钟和 12 小时的缓存写入, 请阅读我们的定价指南。(在新窗口中打开) 你只需为输入 tokens 付费:没有输出 token 的费用。区域处理在美国和欧盟可用,并且 零数据保留(在新窗口中打开) 面向符合条件的客户提供。详情请参阅 定价与缓存(在新窗口中打开) 和 数据控制 (在新窗口中打开)。

原始出处

OpenAI

内容说明

原始发布及相关权利归来源方。

机器翻译 · 请以原文为准