IT之家 10월 23일 소식, 현지 시간 10월 22일 OpenAI가 결정 API(Decisions API)를 전면 개방한다고 발표했습니다.
소개에 따르면,이 API는 GPT‑6 Luna를 기반으로 구축되었으며Luna의 모델 지능을 한정된 답변(bounded answers)을 가지는 문제에 집중시켜 애플리케이션과 에이전트가 텍스트, 이미지 및 구조화된 입력을 바탕으로 준실시간 의사결정을 내리도록 지원합니다 —— Responses API를 통해 GPT‑6 Luna를 호출하는 것보다 응답 속도가 최대 10배 향상되었습니다。
가격 측면에서 결정 API 입력은 백만 토큰당 0.1달러(IT之家 주: 현 환율로 약 0.67위안화)이며, 캐시에 적중한 입력은 백만 토큰당 0.01달러(현 환율로 약 0.067위안화)입니다. 이 API는 입력 토큰에 대해서만 과금되며 출력 토큰은 무료입니다. OpenAI 전사적으로 팀들이 결정 API를 제품과 비즈니스 워크플로에 적용하고 있습니다.
OpenAI는 공개 베타 이후 해당 기능에 네이티브 GPT‑Live 통합, 컨텍스트 재사용을 위한 프롬프트 캐싱, 미국 및 EU의 추론 데이터 상주 지원이 추가되었다고 밝혔습니다.
또한 개발자들이 이제 네이티브 JSON 입력을 전달하고, 질문 지시문에 이미지를 포함하며, 단일 요청에서 최대 400개의 질문을 제출할 수 있게 되었습니다(기존 상한의 두 배). OpenAI는 아시아 여러 지역에서 서비스 용량을 확대하는 등 지연 시간 성능을 지속적으로 최적화했다고 밝혔습니다.