애플리케이션과 에이전트는 워크플로우 전반에서 수많은 작은 결정을 내립니다: 입력을 어떻게 분류할지, 요청을 어디로 라우팅할지, 또는 다음에 어떤 행동을 취할지 등입니다. 개별적으로는 단순하지만, 규모가 커지면 지연 시간과 비용이 누적됩니다.
오늘 우리는 Decisions API를 정식 출판(GA)합니다. 이 API는 다음과 함께 구축되었습니다. GPT‑6 Luna, Decisions API는 Luna의 지능을 유한한 답을 가진 질문에 집중시켜, 애플리케이션과 에이전트가 텍스트, 이미지, 구조화된 입력을 통해 Responses API를 거쳐 GPT‑6 Luna보다 최대 10배 빠르게 거의 실시간에 가까운 결정을 내리도록 돕습니다.
퍼블릭 베타 이후로는 네이티브 GPT‑Live 통합, 재사용 컨텍스트를 위한 프롬프트 캐싱, 미국과 EU에서의 추론 상주 기능을 추가했습니다. 개발자는 네이티브 JSON 입력을 전달하고, 질문 지침에 이미지를 포함하며, 요청당 최대 400개의 질문을 할 수 있는데, 이는 이전 한도의 두 배입니다. 또한 아시아 여러 지역의 추가 용량을 포함해 지연 시간 개선 작업도 계속 진행했습니다.
팀들이 Decisions API를 활용하는 방법
Decisions의 초기 도입 사례를 통해 다양한 활용 사례에 대한 적용 가능성이 입증되었습니다.
OpenAI 전사적으로 여러 팀이 제품 및 비즈니스 워크플로에 Decisions API를 활용하고 있습니다. dots 팀은 이를 사용해 응답 시간을 줄이고 상호작용성을 개선하고 있습니다. Personal Finance 팀은 거래 설명을 분류하는 데 사용하고 있으며, Communications 팀은 Decisions를 사용해 보도 자료를 주제별로 분류하고 핵심 서사를 강화하는지 아니면 도전하는지 점수를 매겨, 어떤 내용이 더 면밀한 검토가 필요한지 파악하는 데 도움을 받고 있습니다.
이러한 초기 사례들은 빠르고 구조화된 의사결정이 다양한 사용 사례에서 수신되는 정보를 유용한 행동으로 전환할 수 있음을 보여줍니다. 고객들은 AI 비용을 정확하게 귀속시키는 것부터 언어 학습 경험을 더욱 인터랙티브하게 만드는 것까지, Decisions API를 마찬가지로 폭넓게 활용하고 있습니다.
5분의 1“Box Extract 및 the Decisions API에서는 사업 문서를 분류하고 적절한 다음 단계로 라우팅합니다. 우리의 평가에서, 그 Decisions API는 30건의 보험증권 사례에서 약 5배 더 빠른 경로 선택을 제공했으며, 정확도는 그 Responses API—일상적인 업무를 자동화하고 확신도가 낮은 사례는 검토자에게 전달합니다.”
애플리케이션에 필요한 결정 유형을 선택하세요
Decisions API 사용은 간단합니다. 개발자가 질문과 허용되는 답변들을 정의한 다음, 텍스트, 이미지 또는 네이티브 JSON 형태로 컨텍스트를 제공합니다. API는 확률, 선택, 점수라는 세 가지 지원되는 답변 유형 중 하나를 반환하며, 애플리케이션은 이를 활용해 다음에 어떤 일이 일어날지 결정할 수 있습니다. 다양한 답변 유형 덕분에 Decisions는 폭넓은 사용 사례에 적용될 수 있습니다.
Decisions API는 세 가지 답변 유형을 지원합니다:
유형 | 이를 사용하여 | 주요 결과 |
|---|---|---|
술어 | 제품에 눈에 띄는 손상이 있는지 여부와 같이, 어떤 조건이 참일 확률을 추정합니다. | probability: 해당 조건이 참일 확률을 0에서 1 사이의 값으로 추정한 것입니다. |
선택 | 미리 정의된 옵션 중 하나를 선택하세요. 예를 들어 에이전트가 계속 진행할지, 재시도할지, 아니면 명확한 설명을 요청할지 여부입니다. | choice: 제공된 값 중 하나. 응답에는 확률과 신뢰도도 포함됩니다. |
score | 룰(thubric)의 순서화된 수준에 따라 입력을 평가합니다. 예를 들어 피해의 심각도를 평가할 수 있습니다. | score: 수준 인덱스들의 확률 가중 평균. |
Decisions API와 GPT‑Live로 실시간 음성 경험 구축하기
다음을 사용하면 GPT‑Live를 통해 자연스럽고 표현력 있는 대화를 음성 애플리케이션에 도입할 수 있으며, 대화가 끊기지 않도록 원활한 중단 처리를 지원합니다. 이제 Decisions API는 GPT‑Live와 기본적으로 통합됩니다(새 창에서 열림), 실시간 대화 중에 빠르고 집중적인 결정을 내리는 데 도움을 줍니다. 고객 지원 상담 에이전트는 명확히 묻는 질문을 할지, 요청을 라우팅할지, 문제를 에스컬레이션할지 결정할 수 있습니다. 아바타는 사용자가 말할 때 표정을 조정하고, 사용자의 말에 따라 윙크나 미소로 반응하여 더 인터랙티브한 경험을 만들 수 있습니다.
아래 예제는 transcript 업데이트를 사용하여 아바타의 표정을 선택합니다. 기존 GPT‑Live 세션의 session.triggers 에 이 구성을 추가하세요.
JSON
1{2 "type": "decisions",3 "event_type": "session.input_transcript.delta",4 "decisions": {5 "questions": [{6 "type": "choice",7 "name": "reaction",8 "instructions": "Choose an appropriate reaction for the avatar based on the user's latest message.",9 "choices": [10 { "value": "neutral" },11 { "value": "happy" },12 { "value": "sad" },13 { "value": "concerned" }14 ]15 }]16 }17}Live는 하나의 decision.event; 애플리케이션이 선택된 reaction 그에 맞춰 캐릭터를 애니메이션합니다. Decisions API에 음성을 연결하는 방법에 대해 자세히 알아보세요. (새 창에서 열립니다)
GPT‑Live로 Decisions를 직접 사용해 보세요
마이크 꺼짐시작하기 전까지 마이크 끔
표현 팔레트
얼굴을 탭하여 미리 볼 수 있습니다.
실시간 결정
각자 무엇을 말하는지에 따라 Decisions API가 표정을 선택하는 모습을 지켜보세요.
당신의 말
말할 때의 반응을 살펴보세요.
어시스턴트의 말
비서가 답변하는 동안 얼굴을 지켜보십시오.
이렇게 말해 보세요
저는 고양이에게 오디션 연기를 리허설했어요. 그런데 고양이가 중간에 나가버렸죠.
이 데모는 사용 시간이 제한되어 있습니다. 이 데모를 사용함으로써 귀하는 OpenAI의 약관 그리고 저희의 개인정보 처리방침.
첫 번째 결정 구축 및 평가
Decisions API가 오늘부터 GPT‑6 Luna와 함께 전용 Decisions 엔드포인트를 통해 정식 출시되었습니다. 자세한 내용은 가격 및 판매 시기 안내(새 창에서 열립니다) 현재 요금과 캐싱 관련 세부 정보는 해당 안내를 참조하십시오.
애플리케이션이 자주 내리는 하나의 반복적 결정부터 시작하십시오. 질문, 가능한 답변들, 그리고 그것들을 구별하는 데 필요한 맥락을 정의하십시오. 실제 사용을 반영하는 예제로, Decisions Playground(새 창에서 열립니다) 직접 작성한 텍스트나 이미지를 사용하거나, 다음을 따를 수 있습니다 개발자 가이드(새 창에서 열립니다) 첫 번째 요청을 보내보세요.
Decisions API는 백만 입력 토큰당 $0.10의 비용이 듭니다. 캐시된 입력은 백만 토큰당 $0.01입니다. 30분 및 12시간 캐시 쓰기의 경우, 가격 안내를 읽어보세요.(새 창에서 열립니다) 입력 토큰에 대해서만 비용을 지불합니다. 출력 토큰 요금은 없습니다. 지역 처리는 미국과 EU에서 이용할 수 있으며, 자격을 갖춘 고객은 Zero Data Retention(새 창에서 열립니다) 을 이용할 수 있습니다. 자세한 내용은 가격 및 캐싱(새 창에서 열립니다) 과 데이터 제어 (새 창에서 열립니다)를 참조하세요.