OpenAI SitemapMis à jour le

LegalOn réduit les coûts du Codex tout en maintenant la vitesse de développement

LegalOn a réduit les coûts estimés du Codex quotidien de 65 % tout en maintenant la vitesse de développement. Il a assigné les tâches aux Astra, Sol et Luna, et a géré les budgets de manière stratégique.

Source de l’image · OpenAI Sitemap

LegalOn Technologies propose des solutions de IA professionnelles à l’échelle mondiale, utilisant l’IA pour soutenir les tâches juridiques et autres fonctions commerciales essentielles. En combinant l’expertise sectorielle avec l’IA, elle permet aux personnes de se concentrer sur des décisions et jugements complexes. Son objectif est une gestion animée par l’IA qui améliore la qualité et la rapidité de la prise de décision commerciale.

Cette approche s’étend au-delà de ses produits pour faire de l’organisation elle-même une entité native de l’IA. L’entreprise a intégré Codex dans son processus de développement et a renforcé son adoption au sein de l’organisation grâce à son utilisation quotidienne.

Lorsque l’adoption se développa, une nouvelle difficulté apparut : le contrôle des coûts. L’utilisation illimitée de modèles performants pourrait augmenter les dépenses, tandis que des restrictions généralisées risquaient de nuire aux gains en productivité que l’IA avait permis.

Comment pouvoir réduire les coûts sans ralentir le développement ? LegalOn Technologies a abordé cette difficulté en choisissant entre GPT‑6 (Astra, Luna) et GPT‑6.1 Sol en fonction de la complexité du travail et de l’état de développement, et en alignant les budgets avec le stade de croissance de chaque entreprise. L’entreprise a réduit les coûts de moitié tout en maintenant la vitesse de développement.

Optimiser les modèles pour maintenir la vitesse de développement et réduire les coûts

L’entreprise a initialement donné aux développeurs un accès illimité à son modèle principal, GPT‑5.5, en mode rapide. Ils ont étendu son utilisation à la conception, à la mise en œuvre et au travail quotidien, apprenant par l’expérience comment diviser au mieux les responsabilités entre les humains et l’IA.

Continuer à utiliser des modèles de haute performance sans limites entraînerait inévitablement une dépassement du budget annuel. Le CoE de développement alimenté par l’IA de l’entreprise (AID CoE) a commencé à élaborer des directives pour la sélection des modèles. Le AID CoE teste et surveille les modèles, tandis que les managers partagent ses résultats avec leurs équipes. Cela permet à chaque ingénieur de choisir indépendamment le modèle le plus adapté pour chaque tâche.

Mettre en correspondance les modèles avec les tâches et allouer stratégiquement les ressources

Les nouvelles directives ont fait en sorte que l’entreprise ne utilise plus le modèle à la plus haute capacité pour chaque tâche, mais choisisse le modèle approprié pour chaque mission. Les équipes commencent avec un modèle léger, puis passent à des modèles plus performants à mesure que la complexité des tâches augmente.

Pour soutenir la gouvernance, l’entreprise a également introduit des contrôles système via les paramètres de l’administrateur, avec des limites d’utilisation mensuelles pour les départements et les individus. Le CoE AID surveille l’utilisation et ajuste les limites en fonction des besoins commerciaux.

Test interne sous ces contraintes a aidé à affiner les critères de sélection. GPT‑6 Luna, le modèle le plus léger, gère la mise en œuvre du code conformément aux exigences claires ; GPT‑6.1 Sol permet des designs standard, l’analyse de données et la préparation de documents ; et GPT‑6 Astra, le modèle le plus performant, assure une évaluation avancée, y compris la conception architecturale. L’association des modèles aux tâches est devenue une pratique partagée entre les équipes.

Choisir parmi trois modèles pour différentes tâches

GPT-6 Luna

Exécution et mise en œuvre quotidiennes ; exécution des automatisations quotidiennes ; délégation de tâches et d’analyses relativement simples ; mise en œuvre du code, principalement en tant que sous-agent.

GPT-6.1 Sol

Conception et analyse standard ; conception de logiciel relativement simple ; analyse numérique routinière et création de documents ; des tâches nécessitant des temps de réalisation plus courts que avec Luna.

GPT-6 Astra

Analyse complexe, conception et orchestration ; analyse complexe et création de documents ; conception logicielle complexe ; coordination d’agents en tant qu’orchestrateur.

Parallèlement à la sélection des modèles, l’entreprise a commencé à restreindre par défaut le mode rapide, permettant aux demandes individuelles uniquement lorsque nécessaire. Bien que ce changement ait suscité des inquiétudes concernant la vitesse de développement, les équipes ont utilisé des approches telles que l’exécution en parallèle des tâches afin de maintenir les performances et d’assurer une transition fluide.

Il a également introduit des plafonds budgétaires pour les dépenses liées à l’IA au niveau des départements, des groupes et des individus. L’entreprise LegalOn, déjà établie, a été demandée à améliorer l’efficacité économique de ses coûts d’environ 20 %, tandis que les nouvelles entreprises en phase de lancement ont reçu des budgets généreux pour encourager une utilisation active de l’IA.

Yuta Tokitake, directeur technique senior chez LegalOn Technologies, explique que les nouveaux entreprises ont donné la priorité à la rapidité d’opération plutôt qu’à l’efficacité coûts. L’objectif était d’utiliser intensivement l’IA pour augmenter la productivité et, par conséquent, favoriser la croissance de l’entreprise.

Ensemble, la sélection des modèles, les restrictions des fonctionnalités et les budgets adaptés à chaque entreprise ont permis de réduire les coûts estimés quotidiens d’environ 65 %. Cette approche a permis de maintenir le budget global sous contrôle, tout en dirigeant les ressources vers les entreprises que l’entreprise souhaitait développer.

Résultats en un coup d’œil

L’optimisation du modèle et l’allocation stratégique des ressources ont donné les résultats suivants :

  • Un changement de l’utilisation du modèle le plus performant pour chaque tâche à la sélection de GPT‑6 Astra, GPT‑6.1 Sol ou GPT‑6 Luna en fonction de la complexité de la tâche et de l’état de développement.

  • Le rendement de développement est maintenu après la restriction du mode rapide par défaut, soutenu par des pratiques d’équipe telles que l’exécution parallèle des tâches.

  • Les plafonds budgétaires permettent une efficacité environ 20 % supérieure dans les entreprises mûres, avec des investissements actifs dans de nouvelles entreprises.

  • Une réduction de 65 % dans les coûts quotidiens estimés par rapport au GPT‑5.5 en choisissant entre les modèles GPT‑6 et 6.1.

Mesurer le véritable ROI de l'investissement en IA via les sorties de fonctionnalités

Grâce à l’optimisation du modèle, l’entreprise a réduit les coûts sans sacrifier la vitesse ou la qualité du développement. Les équipes constatent également que l’IA raccourcit progressivement le cycle allant du développement à la sortie.

Mais l’entreprise regarde plus loin. L’accélération du développement suffit-elle à rendre les investissements en IA réussies ? Le lien entre un développement plus rapide et la valeur pour les clients reste flou. « Il est presque évident que l’IA peut accélérer le développement et les mises à jour des systèmes », dit Tokitake. « Ce que nous voulons vraiment comprendre, c’est si cette accélération du développement se traduit réellement en valeur pour les clients. »

Cette question a poussé l’entreprise à développer sa propre métrique, en déplaçant la base d’évaluation des investissements en IA de la vitesse de développement et du volume d’utilisation vers la valeur pour les clients.

Tokitake explique : « Lorsque nous utilisons l’IA, nous pouvons suivre le coût de chaque tâche individuelle. Cependant, le coût total d’un projet complet – une mise en œuvre d’une fonctionnalité – reste souvent un mystère. Nous avons donc conçu la mesure en se basant sur chaque mise en œuvre d’une fonctionnalité comme unité unique. En liant la valeur pour le client que cette mise en œuvre apporte aux coûts réels de l’IA investis dans elle, nous voulons rendre le retour sur investissement visible et précis. »

L’entreprise construit actuellement le pipeline permettant de calculer cette métrique. Une fois terminé, il rendra visible le véritable retour sur investissement en termes de valeur pour les clients. LegalOn Technologies s’éloigne de la gestion des coûts de l’IA pour se concentrer sur le lien direct entre les investissements technologiques et la valeur commerciale.

Construire une organisation et une gouvernance pour l’ère de l’IA

L’objectif suivant est de transformer les compétences en IA des ingénieurs individuels en une capacité au niveau de l’entreprise entière. En tant que première étape, l’entreprise prévoit de créer une base de connaissances pour collecter et partager l’expérience pratique. Elle recueillira des connaissances telles que les meilleures combinaisons de modèles pour la conception, la mise en œuvre et l’examen, et transformera rapidement les succès individuels en bonnes pratiques au niveau de l’entreprise.

Ces changements, motivés par l’expérience pratique des équipes, influencent également l’organisation et les recrutements. Les gains de productivité obtenus grâce à l’IA incitent l’entreprise à réévaluer fondamentalement la manière dont le travail est réparti entre les humains et l’IA, ainsi que ses plans de personnel. Elle a déjà commencé à mettre l’accent sur les compétences en IA lors des recrutements, à mesure que sa stratégie d’investissement et sa structure organisationnelle évoluent.

Transformer l’adoption de l’IA en un avantage compétitif durable nécessite une amélioration continue de l’équilibre entre la gouvernance et la liberté des équipes à agir. Le CoE AID et l’équipe de sécurité travaillent ensemble pour optimiser les performances, les coûts et les risques sous plusieurs angles, créant un cadre flexible qui soutient l’expérimentation au sein de l’organisation.

Les restrictions excessives via des règles et des budgets peuvent entraver la dynamique d’une organisation. Ce dont nous avons besoin, c’est un modèle opérationnel flexible qui équilibre efficacement le contrôle des risques avec la vitesse dont ont besoin les équipes.
Yuta Tokitake, Directeur Engineering Senior, LegalOn Technologies

OpenAI <3 startups

Rejoignez la communautéCommencez à construire (ouvre dans une nouvelle fenêtre)
Source originale

OpenAI Sitemap

À propos du contenu

La publication originale et les droits appartiennent à la source.

Traduction automatique · Consultez l’original