LegalOn Technologiesは、AIを活用して法的業務やその他の重要なビジネス機能を支援するプロフェッショナルAIを世界中で提供しています。専門知識とAIを組み合わせることで、人々が複雑な判断や決定に集中できるようにします。その目標は、ビジネス上の意思決定の質と速度を向上させる、AI主導型の管理です。
このアプローチは、製品にとどまらず、組織自体をAIネイティブなものにすることにも及びます。同社はCodexを開発プロセスに統合し、日常的な使用を通じて組織全体での導入を拡大しました。
導入が普及するにつれて、新たな課題が浮上した。それはコスト管理である。高性能モデルの無制限の使用は支出を増大させる可能性があり、一方で包括的な制限は、AIによってもたらされた生産性の向上を損なうリスクがある。
開発のスピードを落とさずにコストをどのように削減できるか？LegalOn Technologiesは、タスクの複雑さと開発段階に基づいてGPT‑6（Astra、Luna）およびGPT‑6.1 Solを選択し、各事業の成長段階に合わせて予算を調整することで、コストを半減させつつ開発スピードを維持した。
開発スピードを維持し、コストを削減するためにモデルを最適化する
会社は当初、開発者に対してファストモードでGPT‑5.5という主要モデルへの無制限のアクセス権を与えました。彼らはその使用範囲を設計、実装、日常業務にまで拡大し、人間とAIの間での責任分担の最適な方法を実験を通じて学んできました。
しかし、無制限に高性能モデルを使用し続けると、必然的に年間予算を超えてしまう。企業のAI駆動型開発コーポレーション（AID CoE）は、モデル選定に関するガイドラインを策定し始めた。AID CoEはモデルをテストし、監視した一方、マネージャーはその結果をチームと共有した。これにより、各エンジニアが各タスクに最適なモデルを独立して選択できるようになった。
タスクに適したモデルをマッチングし、リソースを戦略的に配分する
新しいガイドラインにより、企業はすべてのタスクに対して最も高機能なモデルを使用するのではなく、タスクに適したモデルを選択するようになりました。チームは軽量なモデルから始め、タスクの複雑さが増すにつれてより高機能なモデルへと移行しました。
ガバナンスを支援するため、同社は管理者設定を通じてシステム制御を導入し、部門や個人に対して月次の利用制限を設けました。AID CoEは利用状況を監視し、業務のニーズに応じて制限を調整します。
これらの管理下での内部テストにより、選定基準がより具体的になった。最も軽量なモデルであるGPT‑6 Lunaは、明確な要件に基づくコード実装を処理できる。GPT‑6.1 Solは標準的な設計、データ分析、文書作成をサポートする。最も能力が高いモデルであるGPT‑6 Astraは、アーキテクチャ設計を含む高度な判断も処理できる。タスクに適したモデルを選ぶという作業は、チーム間で共有される習慣となった。
異なるタスクに対する3つのモデルから選ぶ
GPT-6 ルナ
日常の実行と実装；日常の自動化を実行する；比較的簡単なタスクや分析を委任する；主にサブエージェントとしてのコード実装。
GPT-6.1 Sol
標準的な設計と分析；比較的シンプルなソフトウェア設計；定期的な数値解析と文書作成；Lunaよりも短時間で完了する必要のあるタスク。
GPT-6 アストラ
複雑な分析、設計、オーケストレーション；複雑な分析と文書作成；複雑なソフトウェア設計；オーケストレーターとしてエージェントを調整する。
モデルの選択とともに、同社はデフォルトでファストモードを制限し始め、必要な場合のみ個々の要求を受け付けるようにした。この変更により開発スピードに関する懸念が生じたが、チームはパフォーマンスを維持し、スムーズに移行するために並列でタスクを実行するといった方法を用いた。
また、部門、グループ、個人レベルでのAI関連支出に予算上限を設けた。LegalOn事業は約20％までコスト効率を向上させるよう求められ、新規事業はAIの積極的な利用を促進するため、広範な予算が与えられた。
LegalOn Technologiesのシニアエンジニアリングマネージャー、Yuta Tokitakeは、新規企業がコスト効率よりも事業のスピードを重視していると説明しています。目的は、AIを活用して生産性を高め、最終的に事業成長を促進することでした。
モデルの選定、機能制限、各事業に合わせた予算などを組み合わせることで、推定日間コストが約65％削減されました。このアプローチにより、全体的な予算を管理しつつ、会社が成長させたい事業に資源を集中させることができました。
一目でわかる結果
モデル最適化と戦略的資源配分により、以下の結果が得られた：
すべてのタスクに最適なモデルを使用するのではなく、タスクの複雑さと開発段階に応じてGPT‑6 Astra、GPT‑6.1 Sol、またはGPT‑6 Lunaを選択するという変化。
デフォルトでFastモードを制限した後でも開発パフォーマンスは維持され、並列タスク実行などのチームの実践によってサポートされている。
新事業への積極的な投資を通じて、成熟した事業において約20％の効率向上がもたらされる予算上限。
GPT‑6やGPT‑6.1モデルの中から選択することで、GPT‑5.5と比べて日間コストが65％削減される。
機能のリリースを通じてAI投資の実際のROIを測定する
モデル最適化を通じて、同社は開発速度や品質を損なわずにコストを削減した。また、チームはAIの導入により、開発からリリースまでのサイクルが着実に短縮されていると感じている。
しかし、同社はさらに先を見据えている。単に開発が速くなっただけでAI投資が成功するのか？開発が速くなることと顧客価値との関係は明確ではなかった。「AIはシステムの開発と更新を加速できるのは当然のことです」とトキタケは言う。「私たちが本当に理解したいのは、その速い開発が実際に顧客に価値をもたらすかどうかです。」
この問題により、企業は独自の指標を開発することになり、AI投資を評価する基準が開発速度や利用量から顧客価値へと変わった。
トキタケは次のように説明しています。「AIを利用すると、個々のタスクのコストを追跡することができますが、完全なプロジェクト、つまり機能リリースの総コストはしばしば不明瞭です。そのため、各機能リリースを単一の単位として測定方式を設計しました。このリリースがもたらす顧客価値と、それに投じられた実際のAIコストを結びつけることで、投資収益率を明確かつ正確に示すことを目指しています。」
同社は現在、この指標を計算するためのパイプラインを構築している。完成後、顧客価値に関する実際のROIが明確に表示されるようになる。LegalOn Technologiesは、AIコスト管理から一歩進んで、技術投資とビジネス価値を直接結びつける方向へと進んでいる。
AI時代の組織とガバナンスを構築する
次の目標は、個々のエンジニアのAIに関する知識を組織全体の能力に変えることです。第一ステップとして、同社は実践的な経験を収集し共有するための知識ベースを構築する予定です。これにより、設計、実装、レビューにおける最適なモデル組み合わせなどの知識が収集され、個人の成功事例を迅速に組織全体のベストプラクティスへと変換することができます。
チームの実践的な経験によって推進されるこれらの変更は、組織や採用にも影響を与えている。AIがもたらす生産性の向上により、企業は人間とAIの仕事の分担方法や労働力計画を根本的に見直すようになっている。投資戦略や組織構造が変化するにつれて、採用においてAIスキルを重視し始めている。
AIの導入を長期的な競争優位に変えるためには、ガバナンスとチームの自由な行動とのバランスを絶えず改善する必要があります。AID CoEとセキュリティチームは協力して、パフォーマンス、コスト、リスクの最適化を複数の観点から行い、組織全体で実験を行うことを支援する柔軟な枠組みを構築しています。
規則や予算による過度な制限は、組織の動力を損なう可能性があります。私たちが必要とするのは、リスク管理とチームが求めるスピードを効果的にバランスさせる、柔軟な運営モデルです。Yuta Tokitake、Senior Engineering Manager、LegalOn Technologies