アプリケーションやエージェントはワークフロー全体を通じて多くの小さな決定を行います。例えば、入力をどのように分類するか、リクエストをどこにルーティングするか、次にどのアクションを取るかなどです。個々の場合は簡単ですが、規模が大きくなるとその遅延とコストが積み重なります。
今日、Decisions APIが一般に利用可能になります。GPT‑6 Lunaを利用して開発されたDecisions APIは、回答が限定的な質問にLunaの知能を活用し、アプリケーションやエージェントがテキスト、画像、構造化された入力から、Responses APIを通じてGPT‑6 Lunaよりも10倍速く、ほぼリアルタイムで意思決定を行えるようにします。
公開ベータ以来、ネイティブのGPT‑Live連携機能が追加され、再利用可能なコンテキストのためのプロンプトキャッシング、米国およびEUでの推論処理の保存機能が実装されました。開発者はネイティブのJSON入力を渡したり、質問指示に画像を含めたり、1回のリクエストで最大400個の質問を送信でき、これは以前の制限の2倍です。また、アジアのいくつか地域でのキャパシティも増やし、レイテンシをさらに改善しています。
チームがDecisions APIをどのように利用しているか
決定の早期採用により、さまざまなユースケースでその適用性が示されました。
OpenAIでは、チームが製品やビジネスワークフローにDecisions APIを適用しています。Dotsチームはこれを利用して応答時間を短縮し、インタラクティビティを向上させています。私たちの個人金融チームは、取引記述を分類するために使用し、コミュニケーションチームはDecisionsを利用して、テーマやスコアに基づくカバレッジを分類し、主要なナラティブを強化するか挑戦するかを判断し、より詳細な検討が必要なものを特定するのに役立っています。
これらの初期の例は、構造化された意思決定がどれほど迅速に、さまざまな利用ケースにおいて入力された情報を実用的な行動に変えることができるかを示しています。顧客は、AIのコストを正確に把握することから、言語学習体験をよりインタラクティブにすることまで、Decisions APIを広く利用しています。
5の中の1“Box Extractを使用して その Decisions APIでは、ビジネス文書を分類し、適切な次のステップにルーティングします。評価においては、 その 決定APIにより、保険証明書の30件のケースで、5倍の速いルート選択が可能となり、精度は変わらない その 応答API—日常業務の自動化と、信頼性の低いケースをレビュアーに送信する。”
アプリケーションが必要とする決定の種類を選択する
Decisions APIの使用は簡単です。開発者は質問と許可される回答を定義し、テキスト、画像、またはネイティブJSON形式でコンテキストを提供します。APIは、確率、選択肢、スコアの3種類のサポートされた回答タイプのうちの一つを返し、アプリケーションは次に何が起こるかを決定するためにそれを利用できます。さまざまな回答タイプにより、Decisionsは多様な使用ケースに適用可能です。
Decisions APIは3種類の回答タイプをサポートします：
タイプ | それを使って | 主な結果 |
|---|---|---|
述語 | 製品に目に見える損傷があるかどうかという条件が真実である確率を推定する。 | 確率：条件が真であるかどうかの推定値で、0から1の範囲です。 |
選択 | エージェントが続行するか、再試行するか、または明確化を求めるかなど、事前定義されたオプションの一つを選択してください。 | 選択肢：提供された値の一つ。応答には確率と信頼度も含まれる。 |
スコア | 損害の深刻度のような評価基準において、入力値を順序付けられたレベルと比較する。 | スコア：レベルインデックスの確率加重平均値。 |
Decisions APIとGPT‑Liveを使ってリアルタイムの音声体験を構築する
GPT‑Liveを使えば、自然で表現力のある会話を音声アプリケーションに実装でき、会話がスムーズに進行するような中断処理も可能です。Decisions APIは今、GPT‑Liveとネイティブに統合されます（新しいウィンドウで開きます）であり、ライブ会話中に迅速かつ焦点を絞った決定をアプリケーションが行うのを支援します。カスタマーサポートエージェントは、明確な質問をするか、リクエストを処理するか、問題を上級に移すかを決定できます。アバターはユーザーが話す内容に応じて表情を調整し、ウィンクや笑顔で応答することで、よりインタラクティブな体験を実現します。
以下の例では、トランスクリプトの更新を使ってアバターの表情を選択します。この設定を、既存のGPT‑Liveセッションのsession.triggersに追加してください。
JSON
1{2 "type": "decisions",3 "event_type": "session.input_transcript.delta",4 "decisions": {5 "questions": [{6 "type": "choice",7 "name": "reaction",8 "instructions": "Choose an appropriate reaction for the avatar based on the user's latest message.",9 "choices": [10 { "value": "neutral" },11 { "value": "happy" },12 { "value": "sad" },13 { "value": "concerned" }14 ]15 }]16 }17}Liveはdecision.eventを発行します。アプリケーションは選択されたreactionを読み取り、キャラクターをそれに応じてアニメーションさせます。Decisions APIへの音声連携について詳しく学ぶ。（新しいウィンドウで開く）
GPT‑Liveを使って自分で決定を試してみて
ミクオフ開始するまでマイクをオフにする
表現パレット
顔をタップしてプレビューを確認します。
ライブ決定
皆さんが言うことに基づいて、Decisions APIが表情を選択する様子を見てください。
あなたの言葉
話すときの反応を見てください。
助手の言葉
アシスタントが返答する間、顔を観察してください。
言ってみてください
私は猫のためにオーディションの練習をしました。猫は途中で出て行きました。
このデモは時間限定です。これを利用することで、OpenAIの利用規約に同意し、私たちのプライバシーポリシーを認識することになります。
最初の決定を構築し、評価する
Decisions APIは、今日、GPT‑6 Lunaを通じて専用のDecisionsエンドポイントで利用可能です。現在の料金とキャッシングの詳細については、料金と利用可能性のガイド（新しいウィンドウで開く）をご覧ください。
アプリケーションが頻繁に行う繰り返し的な決定から始めましょう。問い、可能な答え、そしてそれらを区別するために必要な文脈を定義します。実際の使用例を用いて、Decisions Playground（新しいウィンドウで開く）で、自分のテキストや画像を使ってテストするか、または開発者ガイド（新しいウィンドウで開く）に従って最初のリクエストを行います。
Decisions APIのコストは、百万個の入力トークンあたり0.10ドルです。キャッシュされた入力のコストは、百万個のトークンあたり0.01ドルです。30分間および12時間のキャッシュによる書き込みについては、私たちの料金ガイドを読んでください。（新しいウィンドウで開く） 入力トークンのみが課金され、出力トークンには料金はかかりません。米国とEUでは地域別処理が利用可能であり、Zero Data Retention（新しいウィンドウで開く）が対象顧客に提供されています。詳細については、pricing and caching（新しいウィンドウで開く）およびdata controls（新しいウィンドウで開く）をご覧ください。