Les applications et les agents prennent de nombreuses petites décisions tout au long d'un flux de travail : comment classer une entrée, où router une requête ou quelle action entreprendre ensuite. Individuellement, elles sont simples. À grande échelle, leur latence et leur coût s'accumulent.
Aujourd'hui, nous rendons l'API Decisions généralement disponible. Construite avec GPT‑6 Luna, l'API Decisions concentre l'intelligence de Luna sur des questions à réponses bornées, aidant les applications et les agents à prendre des décisions en quasi temps réel à partir de textes, d'images et d'entrées structurées jusqu'à 10x plus vite que GPT‑6 Luna via l'API Responses.
Depuis la bêta publique, nous avons ajouté une intégration native GPT‑Live, la mise en cache des prompts pour le contexte réutilisé et la résidence d'inférence aux États-Unis et dans l'UE. Les développeurs peuvent également transmettre des entrées JSON natives, inclure des images dans les instructions de question et poser jusqu'à 400 questions par requête, soit le double de la limite précédente. Nous avons aussi continué à améliorer la latence, notamment grâce à une capacité supplémentaire dans plusieurs régions d'Asie.
Comment les équipes utilisent l'API Decisions
L'adoption précoce de Decisions a démontré son applicabilité à une variété de cas d'usage.
Au sein d'OpenAI, les équipes appliquent l'API Decisions à des flux de travail produit et commerciaux. L'équipe dots l'utilise pour réduire les temps de réponse et améliorer l'interactivité. Notre équipe Personal Finance l'utilise pour catégoriser les descriptions de transactions, tandis que notre équipe Communications utilise Decisions pour classer la couverture médiatique par thèmes et noter si elle renforce ou conteste les récits clés — aidant ainsi à identifier ce qui mérite un examen plus approfondi.
Ces premiers exemples montrent comment une prise de décision rapide et structurée peut transformer les informations entrantes en actions utiles dans un large éventail de cas d'usage. Les clients appliquent l'API Decisions de manière tout aussi large, de l'attribution précise des coûts de l'IA à la rendre les expériences d'apprentissage des langues plus interactives.
1 sur 5“Avec Box Extract et l' API Decisions, nous classons les documents d'entreprise et les routons vers la bonne étape suivante. Dans notre évaluation, l' API Decisions a permis une sélection de route environ 5x plus rapide sur 30 cas de certificats d'assurance, avec la même précision que l' API Responses — automatisant le travail de routine et envoyant les cas à faible confiance aux relecteurs.”
Sélectionnez le type de décision dont votre application a besoin
Utiliser l'API Decisions est simple : les développeurs définissent une question et ses réponses autorisées, puis fournissent le contexte sous forme de texte, d'images ou de JSON natif. L'API renvoie l'un des trois types de réponses pris en charge — une probabilité, un choix ou un score — que les applications peuvent utiliser pour déterminer la suite des événements. La variété des types de réponses permet à Decisions d'être applicable à une grande variété de cas d'usage.
L'API Decisions prend en charge trois types de réponses :
Type | Utilisez-la pour | Résultat principal |
|---|---|---|
predicate | Estimer la probabilité qu'une condition soit vraie, par exemple si un produit présente des dommages visibles. | probability : une estimation de 0 à 1 que la condition est vraie. |
choice | Sélectionner l'une de vos options prédéfinies, par exemple si un agent doit continuer, réessayer ou demander une clarification. | choice : l'une des valeurs que vous avez fournies. La réponse inclut également les probabilités et la confiance. |
score | Évaluez une entrée par rapport à des niveaux ordonnés dans une grille d'évaluation, par exemple la gravité des dommages. | score : la moyenne pondérée par les probabilités des indices de niveaux. |
Créez des expériences vocales en temps réel avec l'API Decisions et GPT‑Live
Avec GPT‑Live, vous pouvez apporter une conversation naturelle et expressive à vos applications vocales, avec une gestion fluide des interruptions qui maintient le flux des conversations. L'API Decisions s' intègre désormais nativement avec GPT‑Live(opens in a new window), aidant les applications à prendre des décisions rapides et ciblées pendant les conversations en direct. Un agent de support client peut décider s'il faut poser une question de clarification, acheminer une demande ou escalader un problème. Un avatar peut ajuster ses expressions faciales lorsqu'un utilisateur lui parle et, en fonction des mots de l'utilisateur, répondre avec un clin d'œil ou un sourire pour créer une expérience plus interactive.
L'exemple ci-dessous utilise les mises à jour de transcription pour sélectionner l'expression d'un avatar. Ajoutez cette configuration à session.triggers dans une session GPT‑Live existante.
JSON
1{2 "type": "decisions",3 "event_type": "session.input_transcript.delta",4 "decisions": {5 "questions": [{6 "type": "choice",7 "name": "reaction",8 "instructions": "Choose an appropriate reaction for the avatar based on the user's latest message.",9 "choices": [10 { "value": "neutral" },11 { "value": "happy" },12 { "value": "sad" },13 { "value": "concerned" }14 ]15 }]16 }17}Live émet un decision.event; l'application lit le reaction sélectionné et anime le personnage en conséquence. En savoir plus sur la connexion de la voix à l'API Decisions. (s'ouvre dans une nouvelle fenêtre)
Essayez Decisions avec GPT‑Live vous-même
Micro coupéMicrophone désactivé jusqu'au démarrage
Palette d'expressions
Touchez un visage pour le prévisualiser.
Décisions en direct
Regardez l'API Decisions choisir une expression faciale en fonction de ce que chacun de vous dit.
Vos mots
Observez la réaction pendant que vous parlez.
Les mots de l'assistant
Observez le visage pendant que l'assistant répond.
Essayez de dire
J'ai répété mon audition devant mon chat. Elle est partie à moitié.
Cette démo est limitée dans le temps. En l'utilisant, vous acceptez les Conditions d'OpenAI et reconnaissez notre Politique de confidentialité.
Créez et évaluez votre première décision
L'API Decisions est généralement disponible dès aujourd'hui avec GPT‑6 Luna via le point de terminaison Decisions dédié. Consultez le guide de tarification et de disponibilité(s'ouvre dans une nouvelle fenêtre) pour les tarifs actuels et les détails de mise en cache.
Commencez par une décision récurrente que votre application prend souvent. Définissez la question, les réponses possibles et le contexte nécessaire pour les distinguer. Testez-la sur des exemples reflétant une utilisation réelle, dans le Decisions Playground(s'ouvre dans une nouvelle fenêtre) avec vos propres textes ou images, ou suivez le guide du développeur(ouvre dans une nouvelle fenêtre) pour effectuer votre première requête.
L'API Decisions coûte 0,10 $ par million de jetons d'entrée. L'entrée en cache coûte 0,01 $ par million de jetons. Pour les écritures en cache de 30 minutes et de 12 heures, consultez notre guide tarifaire.(ouvre dans une nouvelle fenêtre) Vous ne payez que pour les jetons d'entrée : il n'y a aucun frais de jetons de sortie. Le traitement régional est disponible aux États-Unis et dans l'UE, et la rétention zéro des données(ouvre dans une nouvelle fenêtre) est disponible pour les clients éligibles. Consultez les tarifs et le cache(ouvre dans une nouvelle fenêtre) et les contrôles des données (ouvre dans une nouvelle fenêtre)pour plus de détails.