Square、Cash App、Afterpayを展開する企業であるBlockでは、セキュリティチームがOpenAI Defense Factoryを活用しています。そこでは、AIが脆弱性の発見、検出、対応を、人間のチームには到底追いつけないスケールで処理します。OpenAI DaybreakをはじめとするAIシステムにより、Blockは以前なら数週間かかっていた作業をわずか数時間で完了しています。
「AIは人間の意図から行動までの時間を圧縮しています。しばらくの間、攻撃者の方が速く機動力があるため、攻撃者が優位に立っていると考えられていました。しかし、DaybreakのようなものやOpenAIのツールの進歩により、防御側も対抗策で対抗し、AIの急速な導入のペースについていけるようになりました。」―Block 最高情報セキュリティ責任者 James Nettesheim
Blockのセキュリティチームは、コード生成からセキュリティ運用に至るまで、ワークフロー全体に責任を持ってAIを導入することに注力してきました。「本当に重要なのは、一緒に拡張できる新しいチームメイトを持つことです」と、最高情報セキュリティ責任者のJames Nettesheimは言います。「従来の自動化のように一歩一歩進める必要はありません。かなり個別的で曖昧な問題をプロンプトとして与え、共に解決していくことができます。」
ソフトウェアのバグのレビューやログの解析のようなプロジェクトは、完成までに数日から数週間かかっていました。今では、チームはそのわずかな時間でそうしたプロジェクトを完了でき、人間がすべての結果を検証しています。
たとえば、検知のチューニングでは、すべての調査が生のクエリエビデンスを保存するため、チームは提案された検知の変更を7か月分の本番テレメトリに対して1時間以内にリプレイできるようになりました。以前はこれには数百件の古いケースを手作業で再クエリする必要があり、非常に時間がかかるため、実際にはほとんど行われていませんでした。
チームはまた、どの作業にどのモデルを使うかについてよりこだわるようになりました。「以前は最新のモデルを使っていましたが、もはやその必要はありません」と彼は言います。「異なるタスクに異なるモデルを選ぶことは、良い学びの経験でした。」BlockのセキュリティハーネスはDaybreakの上に構築されており、タスクを適切なモデルにルーティングするのに役立ち、人間がタスクを引き継いだり、エージェントが互いの作業を検証したりするためのフックも備えています。チームはこれらのシステムを社内ベンチマークおよび実運用のパフォーマンスに対して継続的に評価し、必要に応じてアプローチを調整しています。責任ある対応として人間によるレビューへ作業をルーティングすることも含まれます。
自動トリアージシステムにより、より多くの作業がより速く完了するようになりました。Blockのセキュリティチームは、トリアージのスループットが50%向上し、インテリジェンス収集と調査が50%増加し、まったく新しい自律的なハンティング機能を手に入れました。Nettesheimはこう言います。「これは四半期あたり約1,100アナリスト時間の調査を行います。すべてのアラートが、そのアラートに関わるすべての要素にわたる完全で深い調査を受けるようになったからです。私たちのシステムは、すべてのアラートを、その日唯一のアラートであるかのように扱います。」
稼働するOpenAI Defense Factory
従来のスキャンツールは単一の脆弱性を個別に検知するだけですが、BlockのセキュリティチームはDaybreakを使うことで、はるかに先へ進むことができます。モデルは攻撃パターンについて仮説を立て、一連の攻撃を完全なエンドツーエンドの侵害経路として連鎖させ、何年も存在していた可能性のある脆弱性を表面化します。
ある事例では、1台のラップトップに対するアラートは、それだけでは軽微なポリシー問題に見えました。しかしピアレビューの際に、モデルは証拠に偶然現れた指標を追跡し、BlockのIDログと照合することで、はるかに大きな一連の問題を明らかにしました。「1つの日常的なエンドポイントのアラートが、キャンペーンの排除につながりました。この照合を実現できる単一のツールは存在しません。そのシグナルは2つの製品のログを横断して初めて存在するのです」とJamesは言います。
Daybreakが役立ったもう一つの例は、最近のレッドチーム演習でのことです。モデルは内部システムに関するいくつかのヒントを与えられ、約2時間で完全な攻撃経路――SQLインジェクション、権限昇格、足場の確保、資格情報の列挙、そして他のシステムへの横展開――を組み立てました。これは通常、人間のレッドチームメンバーには数日かかります。最近のレッドチーム演習では、高度な脆弱性の報告から自動的に提案されたパッチまでの所要時間は18分でした。
脆弱性の発見は、それを修正できる能力と同じくらいしか価値がありません。Nettesheimは、チームがすべての発見事項に対して使うプロセスを説明します。コード内の問題の所在を特定し、担当者を特定してから、修復に移ります。「パッチを提案し、悪用可能性を確認し、それから修正が完了したことを検証します。人間がループに加わってガイドし、コードの変更をデプロイします。」
エージェントは技術的には有能ですが、組織の文脈や過去の意思決定の背後にある理由を持ち合わせていません。人間がその文脈と戦略を提供し、そこで彼のチームが人間によるレビューの層を担います。AIの判断が実際に実証されるにつれ、Nettesheimは「より敏感なシステムに使うために、徐々にリスクレベルを上げていきます」と言います。
成果の概要
7か月分のテレメトリに対して提案された検知の変更をリプレイするのに1時間未満。
最近のレッドチーム演習で、高度な脆弱性の報告から自動的に提案されたパッチまで18分。
四半期あたり約600アナリスト時間の誤検知トリアージが返還。
四半期あたり約1,100アナリスト時間の調査が完了。
トリアージのスループットが50%向上。
インテリジェンス収集と調査が50%増加。
次のステップ
検知と対応の作業だけで、以前は誤検知のトリアージに費やされていた約600アナリスト時間が四半期あたり返還されています。その時間を取り戻したことで、チームは現在、より深い調査と、責任を持ったさらなる自動化の構築に多くの時間を費やしています。
攻撃のペースが加速し、AIモデルが進化し続ける中、Nettesheimは、そもそも脆弱性が組み込まれる数そのものを減らす機会があると考えています。そうなればセキュリティチームは、パッチ適用に費やす時間を減らし、予防的かつ戦略的な業務により多くの時間を割けるようになります。
「OpenAIは、これらの高度な機能を誰もが使えるようにすることで、優位性を防御側に移しつつあります」と彼は言います。「これまでは通常、非常に著名なテクノロジー企業や政府の手にのみあったものです。しかし今や、重要インフラや学校、中小企業を含む誰もが、この技術を活用して自組織のネットワークを防御し始めることができます」