IT之家 Bericht vom 23. Oktober: Am 22. Oktober Ortszeit kündigte OpenAI die umfassende Freigabe der Decisions API an.
Laut Angabenbasiert die API auf GPT‑6 Lunaund konzentriert die Modellintelligenz von Luna auf Fragen mit begrenzten Antworten (bounded answers), um Anwendungen und Agenten dabei zu helfen, nahezu in Echtzeit Entscheidungen auf Basis von Text, Bildern und strukturierten Eingaben zu treffen – die Antwortgeschwindigkeit ist bis zu 10-mal schneller als beim Aufruf von GPT‑6 Luna über die Responses API。
Zum Preis: Die Decisions API kostet 0,1 US-Dollar pro eine Million Input-Token (Anmerkung von IT之家: zum aktuellen Wechselkurs etwa 0,67 Yuan RMB), bei Cache-Treffern kosten die Eingaben 0,01 US-Dollar pro eine Million Token (etwa 0,067 Yuan RMB zum aktuellen Wechselkurs). Die API wird nur nach Input-Token abgerechnet, Output-Token sind kostenlos. Bei OpenAI insgesamt wenden die Teams die Decisions API auf Produkte und Geschäftsworkflows an.
OpenAI teilte mit, dass seit der öffentlichen Beta native GPT‑Live-Integration, Prompt-Caching für wiederverwendete Kontexte sowie Unterstützung für den Aufenthalt von Inferenzdaten in den USA und der EU hinzugekommen sind.
Darüber hinaus können Entwickler nun native JSON-Eingaben übergeben, Bilder in den Frageanweisungen enthalten und bis zu 400 Fragen in einer einzigen Anfrage einreichen (das Doppelte des bisherigen Limits). OpenAI erklärte, die Latenzleistung sei kontinuierlich optimiert worden, unter anderem durch die Erweiterung der Dienstkapazität in mehreren Regionen Asiens.