これは、OpenAIが自社の技術とAPIをどのように利用しているかについての内部例を共有するシリーズの一部です。これらのツールはOpenAI内部で使用されており、フロンティアAIが各チームでのユースケースを支援する方法を示す例としてここに共有されています。
UltrafastはCodexにおける高速モードであり、OpenAIのエンジニアにとっては、事故対応のデフォルトとなっている。何かが故障した際、問題が悪化する間、エンジニアは答えを待つ数分間の時間がないことが多い。Ultrafastを利用することで、彼らは一度に複数の可能性のある原因を調査でき、注意を分散することなく答えを得ることができる。
「同じく賢い二人の人間を選び、一人は1時間で、もう一人は1分で戻ってくるとしたら、二番目の人がずっと優れている。より早く応答してくれる人と一緒にいる方が、はるかに多くのことを成し遂げることができる。」
大量の草の中から針を見つけること
OpenAIの技術スタッフの一員であるアーロン・フリエルは、通常、事故発生時の対応を担当する人です。彼は事故対応用のSlackチャンネルを作成し、Codexに問題を指摘して、Codexに監視、調査、そして問い合わせが来た際の回答を依頼します。「どんな事故においても、間違いが起こり得る場所は通常多くあり、その中から正しいものを見つけることが、そのチャンネルで働く人々の主な役割です」と彼は言います。 「Ultrafastを使用することで、あらゆるデータを同時に検索でき、事件への対応がはるかに迅速になります。」
技術スタッフのメンバーでありデータセンターセキュリティアーキテクターでもあるAJ・トルボイェヴィッチは、以前はセキュリティ問題に関する調査が、構造化されたデータと非構造化データをまとめ、標準化し、状況を把握して意思決定を行うのに1、2時間かかったと言います。「今では10〜15分で済む」と彼は言います。「時にはほぼリアルタイムで行えることもある。」
アダム・ペリーとサヤン・シソディヤは、コードックスが行動を起こし、コマンドを実行し、ツールを使用できるようにするコードを作成する核心エージェントチームで働いています。Ultrafastにより、セキュリティイベント中の彼らの作業方法が変わりました。「以前は、Codexに何かを調査させて、同時に自分も調査しなければならなかった。待つだけでは十分に速くないと分かっていたからです」とアダムは言います。「今はUltrafastのおかげで、Codexは十分に速くなったので、注意を分散することなく集中することができます。」
サイアンは、Ultrafastが複数のデータソースから即時の回答を得られることに感謝している。「イベントのログを調べるだけでなく、Codexを使ってSlackを調査し、疑わしい変更や、Slackの他の場所で同様の症状について話されていることを確認する」と彼は言う。
30秒未満で迅速な応答
AIで答えを見つけるのに30秒を超える場合、技術スタッフのメンバーであるジェフ・ニウは、Slackで確認するか同僚とチャットすると言います。しかし、Ultrafastを使っている今、彼の仕事のほとんどがその限界を超えています。以前はCodexに質問をし、コードが考えている間他のことに移り、思考が途切れてしまうことがありました。今では会話がリアルタイムで行われるため、手元のタスクに集中しやすくなります。
超高速化により、ジェフは大規模なリファクタリングに取り組む意欲が高まった。既存のコードを修正するのにかかる時間が短くなったからだ。「技術的デットを解消するのは、これまでよりもずっと簡単になった」と彼は言う。「コードは安価であり、今では制作も非常に速い。以前は多くの費用がかかったリファクタリングも、ほぼ瞬時に実行できるようになった。」
コピーライターとして働く
アダムは「チーフ・オブ・スタッフ」と呼ばれるスレッドを維持している。毎朝、どの会議があるか、返信し忘れそうなメッセージがあるかがそのスレッドに表示される。「その要約を書くためのすべてのデータはすでに確認されているので、追跡質問をすると、さらに情報を集めるのを待つ必要はない」と彼は言う。「実際のチーフ・オブ・スタッフのように、同じ会話の中で次々と質問をすることができる」
サイアンは、フォームの入力など、ブラウザで面倒な手作業をする際にCodexを利用している。以前はその速度が遅すぎて避けていたが、「ブラウザを開いて、5秒間そこに座って考え、何かをクリックし、再び同じように座る」と彼は言う。最新モデルのコンピュータ機能の向上により、Codexがその作業を代行させる方が快適になった。 「今はブラウザでクリックさせても全く問題ないし、自分でやらないことで時間を無駄にすることもないほど速いから。」
インシデント対応、日常的な計画策定、リファクタリングにおいて、UltrafastはOpenAIの技術スタッフが質問に応じるペースでCodexと協力できるようにする。彼らは回答を追跡し、別のアプローチを試すことができ、思考の流れを失うことなく作業を続けることができる。この短い待ち時間により、彼らが受け入れることのできるタスクも変わり、先に引き延ばしていたリファクタリングから、最終的に委任する価値のある日常的なタスクへと変わる。