애플리케이션과 에이전트는 워크플로우 전반에서 수많은 작은 결정을 내립니다: 입력을 어떻게 분류할지, 요청을 어디로 라우팅할지, 다음에 어떤 작업을 수행할지 등입니다. 개별적으로는 단순하지만, 규모가 커지면 지연 시간과 비용이 누적됩니다.
오늘, 우리는 Decisions API를 정식 출시합니다. GPT‑6 Luna, Decisions API는 Luna의 지능을 유한한 답을 가진 질문에 집중시켜, 애플리케이션과 에이전트가 텍스트, 이미지, 구조화된 입력을 통해 GPT‑6 Luna를 Responses API로 사용할 때보다 최대 10배 빠르게 거의 실시간에 가까운 결정을 내리도록 돕습니다.
퍼블릭 베타 이후로는 네이티브 GPT‑Live 통합, 재사용 컨텍스트를 위한 프롬프트 캐싱, 미국 및 EU에서의 추천 데이터 상주 기능을 추가했습니다. 개발자는 또한 네이티브 JSON 입력을 전달하고, 질문 지침에 이미지를 포함하며, 요청당 최대 400개의 질문, 즉 기존 한도의 두 배를 사용할 수 있습니다. 아시아 여러 지역의 추가 용량 확대를 포함해 지연 시간 개선도 계속 진행했습니다.
팀들이 Decisions API를 활용하는 방법
Decisions의 조기 도입 사례는 다양한 사용 사례에서의 활용 가능성을 보여주었습니다.
OpenAI 전반에서 여러 팀이 제품 및 비즈니스 워크플로에 Decisions API를 활용하고 있습니다. dots 팀은 이를 사용해 응답 시간을 줄이고 상호작용성을 개선하고 있습니다. Personal Finance 팀은 거래 내역 설명을 분류하는 데 이를 활용하고 있으며, Communications 팀은 Decisions를 사용해 보도 자료를 주제별로 분류하고 주요 서사를 강화하는지 아니면 도전하는지 점수를 매겨, 더 면밀한 검토가 필요한 내용을 파악하는 데 도움을 받고 있습니다.
이러한 초기 사례들은 빠르고 구조화된 의사결정이 다양한 활용 사례 전반에서 수신되는 정보를 유용한 행동으로 전환할 수 있음을 보여줍니다. 고객들은 AI 비용을 정확하게 귀속시키는 것부터 언어 학습 경험을 더욱 인터랙티브하게 만드는 것에 이르기까지 똑같이 폭넓게 Decisions API를 활용하고 있습니다.
5개 중 1번째“Box Extract를 사용하여 그 Decisions API를 사용하여 사업 문서를 분류하고 올바른 다음 단계로 라우팅합니다. 우리의 평가에서, 그 Decisions API는 30건의 보험증권 사례에서 약 5배 빠른 경로 선택을 제공했으며, 정확도는 동일했습니다. 그 Responses API—일상적인 업무를 자동화하고 확신도가 낮은 사례는 검토자에게 전달합니다.”
애플리케이션에 필요한 결정 유형을 선택하세요
Decisions API는 사용이 간단합니다. 개발자가 질문과 허용되는 답변을 정의한 다음, 텍스트, 이미지 또는 네이티브 JSON 형태로 컨텍스트를 제공합니다. API는 확률(probability), 선택(choice), 점수(score)라는 세 가지 지원되는 답변 유형 중 하나를 반환하며, 애플리케이션은 이를 활용해 이후의 작업을 결정할 수 있습니다. 다양한 답변 유형 덕분에 Decisions는 폭넓은 사용 사례에 적용될 수 있습니다.
Decisions API는 세 가지 답변 유형을 지원합니다:
유형 | 이를 사용하여 다음을 수행하세요 | 주요 결과 |
|---|---|---|
서술어 | 제품에 눈에 보이는 손상이 있는지 여부와 같이 어떤 조건이 참일 확률을 추정합니다. | probability: 해당 조건이 참일 것에 대한 0에서 1 사이의 추정치. |
선택 | 미리 정의된 옵션 중 하나를 선택하세요. 예를 들어 에이전트가 계속 진행할지, 재시도할지, 아니면 추가 설명을 요청할지를 결정할 수 있습니다. | choice: 제공된 값 중 하나. 응답에는 확률과 신뢰도도 포함됩니다. |
score | 루브릭의 순서화된 수준에 대해 입력을 평가합니다. 예를 들어 피해의 심각도 등을 평가할 수 있습니다. | score: 수준 지수들의 확률 가중 평균. |
Decisions API와 GPT‑Live로 실시간 음성 경험 구축
GPT‑Live를 사용하면 GPT‑Live를 통해 음성 애플리케이션에 자연스럽고 표현력 있는 대화를 도입할 수 있으며, 대화가 끊기지 않도록 원활한 끼어들기 처리를 지원합니다. Decisions API는 이제 GPT‑Live 와 기본적으로 통합되어(새 창에서 열림), 라이브 대화 중에 애플리케이션이 빠르고 집중적인 의사결정을 내릴 수 있도록 돕습니다. 고객 지원 상담원은 명확히 하는 질문을 할지, 요청을 라우팅할지, 문제를 에스컬레이션할지 결정할 수 있습니다. 아바타는 사용자가 말하는 동안 표정을 조정하고, 사용자의 말에 따라 윙크나 미소로 반응하여 더 인터랙티브한 경험을 만들 수 있습니다., 라이브 대화 중에 애플리케이션이 빠르고 집중적인 결정을 내리도록 돕습니다. 고객 지원 상담사는 명확히 하는 질문을 할지, 요청을 라우팅할지, 아니면 문제를 에스컬레이션할지 결정할 수 있습니다. 아바타는 사용자가 말하는 동안 표정을 조정할 수 있고, 사용자의 말을 바탕으로 윙크나 미소로 응답하여 더욱 인터랙티브한 경험을 만들어낼 수 있습니다.
아래 예시는 transcript 업데이트를 사용하여 아바타의 표정을 선택합니다. 이 구성을 session.triggers 에 추가하세요.
JSON
1{2 "type": "decisions",3 "event_type": "session.input_transcript.delta",4 "decisions": {5 "questions": [{6 "type": "choice",7 "name": "reaction",8 "instructions": "Choose an appropriate reaction for the avatar based on the user's latest message.",9 "choices": [10 { "value": "neutral" },11 { "value": "happy" },12 { "value": "sad" },13 { "value": "concerned" }14 ]15 }]16 }17}Live는 하나의 decision.event; 애플리케이션은 선택된 reaction 캐릭터를 그에 맞게 애니메이션합니다. Decisions API에 음성을 연결하는 방법에 대해 자세히 알아보세요. (새 창에서 열립니다)
GPT-Live로 Decisions를 직접 사용해 보세요
마이크 꺼짐시작하기 전까지는 마이크가 꺼져 있습니다
표현 팔레트
얼굴을 탭하여 미리 확인하세요.
실시간 결정
각자 말하는 내용에 따라 Decisions API가 표정을 선택하는 과정을 지켜보세요.
당신의 말
말할 때 반응을 지켜보세요.
어시스턴트의 말
어시스턴트가 답변할 때 얼굴을 지켜보세요.
다음과 같이 말해 보세요
저는 고양이를 상대로 오디션을 리허설했습니다. 고양이는 중간에 나가버렸어요.
이 데모는 시간 제한이 있습니다. 이를 사용함으로써 귀하는 OpenAI의 약관 그리고 저희의 개인정보 처리방침.
첫 번째 의사결정 구축 및 평가하기
Decisions API가 오늘부터 GPT‑6 Luna를 통해 전용 Decisions 엔드포인트로 일반 공개되었습니다. 자세한 내용은 가격 및 구매 가능 여부 안내(새 창에서 열립니다) 현재 요금과 캐싱 세부 정보는 해당 페이지를 참조하십시오.
애플리케이션이 자주 수행하는 반복적인 결정 하나로 시작하세요. 질문, 가능한 답변들, 그리고 이를 구분하는 데 필요한 맥락을 정의하세요. 실제 사용 사례를 반영하는 예시로 테스트하고, 결정 플레이그라운드(새 창으로 열립니다) 직접 작성한 텍스트나 이미지를 사용하거나, 다음을 따를 수 있습니다: 개발자 가이드(새 창에서 열림) 첫 번째 요청을 보내려면.
Decisions API는 입력 토큰 백만 개당 $0.10의 비용이 듭니다. 캐시된 입력은 백만 토큰당 $0.01입니다. 30분 및 12시간 캐시 쓰기의 경우, 가격 안내를 읽어보세요.(새 창에서 열림) 입력 토큰에 대해서만 비용을 지불합니다: 출력 토큰 요금은 없습니다. 지역 처리는 미국과 EU에서 이용 가능하며, Zero Data Retention(새 창에서 열림) 자격을 갖춘 고객에게 제공됩니다. 자세한 내용은 가격 및 캐싱(새 창에서 열림) 및 데이터 제어 (새 창에서 열림)을 참조하세요.