Anwendungen und Agenten treffen im Verlauf eines Workflows viele kleine Entscheidungen: wie eine Eingabe klassifiziert wird, wohin eine Anfrage weitergeleitet wird oder welche Aktion als Nächstes ausgeführt wird. Einzeln betrachtet sind sie einfach. Bei großem Umfang summieren sich ihre Latenz und ihre Kosten.
Heute geben wir die Decisions API allgemein frei. Gebaut mit GPT‑6 Luna, konzentriert die Decisions API Lunas Intelligenz auf Fragen mit begrenzten Antwortmöglichkeiten und hilft Anwendungen und Agenten, nahezu in Echtzeit Entscheidungen aus Text, Bildern und strukturierten Eingaben zu treffen – bis zu 10x schneller als GPT‑6 Luna über die Responses API.
Seit der öffentlichen Beta haben wir eine native GPT-Live-Integration, Prompt-Caching für wiederverwendeten Kontext sowie Inferenz-Residenz in den USA und der EU hinzugefügt. Entwickler können außerdem native JSON-Eingaben übergeben, Bilder in Frage-Anweisungen einbinden und bis zu 400 Fragen pro Anfrage stellen – doppelt so viele wie zuvor. Wir haben auch die Latenz weiter verbessert, einschließlich zusätzlicher Kapazität in mehreren Regionen Asiens.
Wie Teams die Decisions API nutzen
Die frühzeitige Einführung von Decisions hat gezeigt, dass es für eine Vielzahl von Anwendungsfällen geeignet ist.
In ganz OpenAI wenden Teams die Decisions API in Produkt- und Geschäftsworkflows an. Das dots-Team nutzt sie, um Reaktionszeiten zu verkürzen und die Interaktivität zu verbessern. Unser Team für persönliche Finanzen verwendet sie, um Transaktionsbeschreibungen zu kategorisieren, während unser Kommunikationsteam mit Decisions die Berichterstattung nach Themen und Bewertungen klassifiziert, ob sie zentrale Erzählungen bestätigt oder in Frage stellt – so lässt sich erkennen, was eine genauere Prüfung verdient.
Diese frühen Beispiele zeigen, wie schnelle, strukturierte Entscheidungsfindung eingehende Informationen in einem breiten Spektrum von Anwendungsfällen in nützliches Handeln umwandeln kann. Kunden nutzen die Decisions API genauso vielfältig, von der genauen Zuordnung von KI-Kosten bis hin zur interaktiveren Gestaltung von Sprachlernerlebnissen.
1 von 5“Mit Box Extract und die Decisions API klassifizieren wir Geschäftsdokumente und leiten sie an den richtigen nächsten Schritt weiter. In unserer Auswertung the Die Decisions API lieferte eine etwa 5x schnellere Routenauswahl bei 30 Bescheinigungsfällen zur Versicherung, mit derselben Genauigkeit wie das Responses API – Routinearbeiten automatisieren und Fälle mit geringerer Konfidenz an Prüfer weiterleiten.”
Wählen Sie die Art der Entscheidung aus, die Ihre Anwendung benötigt
Die Nutzung der Decisions API ist einfach: Entwickler definieren eine Frage und ihre zulässigen Antworten und liefern dann Kontext als Text, Bilder oder natives JSON. Die API gibt einen von drei unterstützten Antworttypen zurück – eine Wahrscheinlichkeit, eine Auswahl oder einen Score –, den Anwendungen verwenden können, um zu bestimmen, was als Nächstes geschieht. Die Vielfalt der Antworttypen ermöglicht es, Decisions über eine breite Palette von Anwendungsfällen hinweg einzusetzen.
Die Decisions API unterstützt drei Antworttypen:
Typ | Verwende es, um | Hauptergebnis |
|---|---|---|
Prädikat | Schätzen Sie die Wahrscheinlichkeit, dass eine Bedingung wahr ist, etwa ob ein Produkt sichtbare Schäden aufweist. | probability: eine Schätzung von 0 bis 1, ob die Bedingung wahr ist. |
choice | Wählen Sie eine Ihrer vordefinierten Optionen aus, z. B. ob ein Agent fortfahren, den Vorgang wiederholen oder um Klärung bitten soll. | choice: einer Ihrer bereitgestellten Werte. Die Antwort enthält auch Wahrscheinlichkeiten und Konfidenz. |
score | Bewerten Sie eine Eingabe anhand geordneter Stufen in einem Rubrik-Schema, etwa den Schweregrad eines Schadens. | score: das wahrscheinlichkeitsgewichtete Mittel der Stufenindizes. |
Echtzeit-Spracherlebnisse mit der Decisions API und GPT‑Live erstellen
Mit GPT‑Livekönnen Sie Ihren Sprachanwendungen natürliche, ausdrucksstarke Konversation verleihen, mit reibungsloser Handhabung von Unterbrechungen, die das Gespräch fließen lässt. Die Decisions API integriert sich nun nativ mit GPT‑Live(öffnet in einem neuen Fenster)und hilft Anwendungen, während live geführter Gespräche schnelle, gezielte Entscheidungen zu treffen. Ein Kundensupport-Agent kann entscheiden, ob er eine Rückfrage stellt, eine Anfrage weiterleitet oder ein Problem eskaliert. Ein Avatar kann seine Gesichtsausdrücke anpassen, während ein Nutzer mit ihm spricht, und je nach den Worten des Nutzers mit einem Augenzwinkern oder einem Lächeln reagieren, um ein interaktiveres Erlebnis zu schaffen.
Das folgende Beispiel verwendet Transkript-Aktualisierungen, um den Gesichtsausdruck eines Avatars auszuwählen. Fügen Sie diese Konfiguration zu session.triggers in einer bestehenden GPT‑Live-Sitzung hinzu.
JSON
1{2 "type": "decisions",3 "event_type": "session.input_transcript.delta",4 "decisions": {5 "questions": [{6 "type": "choice",7 "name": "reaction",8 "instructions": "Choose an appropriate reaction for the avatar based on the user's latest message.",9 "choices": [10 { "value": "neutral" },11 { "value": "happy" },12 { "value": "sad" },13 { "value": "concerned" }14 ]15 }]16 }17}Live sendet ein decision.event; die Anwendung liest die ausgewählte reaction und animiert die Figur entsprechend. Erfahren Sie mehr über die Anbindung von Voice an die Decisions API. (öffnet sich in einem neuen Fenster)
Testen Sie Decisions mit GPT‑Live selbst
Mikrofon ausMikrofon aus, bis du startest
Ausdruckspalette
Tippe auf ein Gesicht, um eine Vorschau anzuzeigen.
Live-Entscheidungen
Sehen Sie zu, wie die Decisions API einen Gesichtsausdruck auf der Grundlage dessen auswählt, was jeder von Ihnen sagt.
Deine Worte
Achten Sie auf die Reaktion, während Sie sprechen.
Worte des Assistenten
Sehen Sie sich das Gesicht an, während der Assistent antwortet.
Versuchen Sie zu sagen
Ich habe mein Vorsprechen vor meiner Katze geübt. Mitten drin ist sie weggegangen.
Diese Demo ist zeitlich begrenzt. Mit ihrer Nutzung stimmen Sie OpenAIs Nutzungsbedingungen zu und bestätigen unsere Datenschutzrichtlinie.
Bauen und bewerten Sie Ihre erste Entscheidung
Die Decisions API ist ab heute allgemein verfügbar mit GPT‑6 Luna über den speziellen Decisions-Endpunkt. Siehe den Leitfaden zu Preisen und Verfügbarkeit(öffnet in einem neuen Fenster) für aktuelle Preise und Caching-Details.
Beginnen Sie mit einer wiederkehrenden Entscheidung, die Ihre Anwendung häufig trifft. Definieren Sie die Frage, die möglichen Antworten und den Kontext, der zur Unterscheidung benötigt wird. Testen Sie sie anhand von Beispielen, die die reale Nutzung widerspiegeln, im Decisions Playground(öffnet in einem neuen Fenster) mit Ihren eigenen Texten oder Bildern, oder folgen Sie dem Entwicklerleitfaden(öffnet in einem neuen Fenster) um deine erste Anfrage zu stellen.
Die Decisions API kostet $0.10 pro Million Eingabe-Tokens. Zwischengespeicherte Eingaben kosten $0.01 pro Million Tokens. Für 30-Minuten- und 12-Stunden-Cache-Writes, lies unseren Preis-Leitfaden.(öffnet in einem neuen Fenster) Du zahlst nur für Eingabe-Tokens: Es gibt keine Gebühren für Ausgabe-Tokens. Regionale Verarbeitung ist in den USA und der EU verfügbar, und Zero Data Retention(öffnet in einem neuen Fenster) ist für berechtigte Kunden verfügbar. Siehe Preise und Caching(öffnet in einem neuen Fenster) und Datenkontrollen (öffnet in einem neuen Fenster)für Einzelheiten.