Le 22 octobre, OpenAI a grand ouvert une nouvelle interface de capacités : l'API de décision (Decisions API) est annoncée comme entièrement disponible. Cette interface repose sur GPT-6Luna et accomplit une tâche très ciblée : canaliser l'intelligence de Luna vers les questions à « réponse bornée », aidant les applications et les agents à trancher en quasi temps réel à partir de textes, d'images et de données structurées. Selon OpenAI, sa vitesse de réponse est jusqu'à 10 fois supérieure à celle d'un appel à GPT-6Luna via l'API Responses.
La tarification est l'élément le plus saillant de cette ouverture. L'entrée de l'API de décision est facturée 0,1 dollar par million de tokens (soit environ 0,67 yuan au taux de change actuel), et les entrées touchant le cache ne coûtent que 0,01 dollar par million de tokens (environ 0,067 yuan). Plus déterministe encore, sa logique de facturation : seuls les tokens d'entrée sont payants, les tokens de sortie étant gratuits. Autrement dit, plus vous posez de questions et plus les réponses sont longues, mais la facture ne tient compte que de la partie que vous « injectez ». OpenAI révèle que l'ensemble de l'entreprise fait déjà tourner l'API de décision au sein de ses produits et de ses flux de travail métier.
Depuis la phase de bêta publique, cette capacité a également gagné de nouveaux atouts. OpenAI y a ajouté une intégration native de GPT-Live, un cache de Prompt pour la réutilisation du contexte, ainsi qu'une prise en charge de la résidence des données d'inférence couvrant les États-Unis et l'Union européenne ; les développeurs peuvent désormais transmettre directement des entrées JSON natives, joindre des images aux instructions de question, et porter le nombre de questions soumises par requête à 400 — soit exactement le double de la limite précédente. La latence continue d'être améliorée, notamment par l'extension de la capacité de service dans plusieurs régions d'Asie. Alors que le modèle apprend à décider vite et à moindre coût dans un cadre délimité, OpenAI a encore fait progresser le pas qui mène l'IA de « pouvoir conseiller » à « pouvoir décider à votre place ».