LegalOn Technologies bietet Professional AI weltweit an und nutzt KI zur Unterstützung juristischer Arbeit und anderer zentraler Geschäftsfunktionen. Durch die Kombination von Fachexpertise mit KI ermöglicht es den Menschen, sich auf komplexe Urteile und Entscheidungen zu konzentrieren. Sein Ziel ist eine KI-gesteuerte Unternehmensführung, die Qualität und Geschwindigkeit geschäftlicher Entscheidungsfindung verbessert.
Dieser Ansatz erstreckt sich über seine Produkte hinaus darauf, die Organisation selbst KI-nativ zu machen. Das Unternehmen integrierte Codex in seinen Entwicklungsprozess und erweiterte die Nutzung unternehmensweit durch den täglichen Einsatz.
Als sich die Nutzung etablierte, entstand eine neue Herausforderung: Kostenkontrolle. Die uneingeschränkte Nutzung leistungsstarker Modelle konnte die Ausgaben in die Höhe treiben, während pauschale Einschränkungen riskierten, die durch KI ermöglichten Produktivitätsgewinne zu untergraben.
Wie konnte es Kosten senken, ohne die Entwicklung zu verlangsamen? LegalOn Technologies begegnete dieser Herausforderung, indem es auf Grundlage der Aufgabenkomplexität und Entwicklungsphase zwischen GPT‑6 (Astra, Luna) und GPT‑6.1 Sol wählte und die Budgets an die jeweilige Wachstumsphase des Geschäfts anpasste. Das Unternehmen halbierte die Kosten und behielt dabei die Entwicklungsgeschwindigkeit bei.
Optimierung der Modelle, um die Entwicklungsgeschwindigkeit zu erhalten und Kosten zu senken
Das Unternehmen gewährte Entwicklern zunächst uneingeschränkten Zugriff auf sein Hauptmodell, GPT‑5.5 im Fast-Modus. Sie erweiterten dessen Nutzung auf Design, Implementierung und die alltägliche Arbeit und lernten durch Experimentieren, wie sich Verantwortlichkeiten zwischen Menschen und KI am besten aufteilen lassen.
Die fortgesetzte Nutzung leistungsstarker Modelle ohne Grenzen würde jedoch unweigerlich das Jahresbudget überschreiten. Das AI-powered Development CoE (AID CoE) des Unternehmens begann, Richtlinien für die Modellauswahl zu entwickeln. Das AID CoE testete und überwachte Modelle, während Manager die Erkenntnisse mit ihren Teams teilten. Dies ermöglichte jedem Ingenieur, für jede Aufgabe unabhängig das am besten geeignete Modell auszuwählen.
Zuordnung von Modellen zu Aufgaben und strategische Ressourcenverteilung
Die neuen Richtlinien verlagerten das Unternehmen von der Nutzung des leistungsstärksten Modells für jede Aufgabe hin zur Auswahl des richtigen Modells für die jeweilige Arbeit. Die Teams begannen mit einem leichtgewichtigen Modell und wechselten zu leistungsfähigeren Modellen, je mehr die Komplexität der Aufgabe zunahm.
Zur Unterstützung der Governance führte das Unternehmen zusätzlich Systemkontrollen über Administratoreinstellungen ein, mit monatlichen Nutzungslimits für Abteilungen und Einzelpersonen. Das AID CoE überwacht die Nutzung und passt die Limits je nach Geschäftsanforderungen an.
Interne Tests unter diesen Kontrollen trugen dazu bei, die Auswahlkriterien spezifischer zu machen. GPT‑6 Luna, das leichteste Modell, übernimmt Code-Implementierung mit klaren Anforderungen; GPT‑6.1 Sol unterstützt Standarddesign, Datenanalyse und Dokumentenerstellung; und GPT‑6 Astra, das leistungsfähigste Modell, übernimmt fortgeschrittene Beurteilungen, einschließlich Architekturdesign. Die Zuordnung von Modellen zu Aufgaben wurde allmählich zu einer gemeinsamen Praxis über die Teams hinweg.
Auswahl zwischen drei Modellen für unterschiedliche Aufgaben
GPT-6 Luna
Alltägliche Ausführung und Implementierung; Ausführung alltäglicher Automatisierungen; Delegation relativ einfacher Aufgaben und Analysen; Code-Implementierung, hauptsächlich als Subagent.
GPT-6.1 Sol
Standarddesign und -analyse; relativ einfacher Softwareentwurf; routinemäßige numerische Analysen und Dokumentenerstellung; Aufgaben, die kürzere Fertigstellungszeiten erfordern als mit Luna.
GPT-6 Astra
Komplexe Analyse, Design und Orchestrierung; komplexe Analysen und Dokumentenerstellung; komplexe Softwareentwicklung; Koordinierung von Agenten als Orchestrator.
Neben der Modellauswahl begann das Unternehmen, den Fast-Modus standardmäßig einzuschränken und Einzelanfragen nur bei Bedarf zuzulassen. Obwohl die Änderung Bedenken hinsichtlich der Entwicklungsgeschwindigkeit aufwarf, nutzten die Teams Ansätze wie die parallele Ausführung von Aufgaben, um die Leistung zu erhalten und reibungslos umzusteigen.
Das Unternehmen führte außerdem Budgetobergrenzen für KI-Ausgaben auf Abteilungs-, Gruppen- und individueller Ebene ein. Das etablierte LegalOn-Geschäft wurde gebeten, die Kosteneffizienz um bis zu etwa 20 % zu verbessern, während neue Unternehmen in der Einführungsphase großzügige Budgets erhielten, um die aktive Nutzung von KI zu fördern.
Yuta Tokitake, Senior Engineering Manager bei LegalOn Technologies, erklärt, dass neue Unternehmen Geschäftsgeschwindigkeit gegenüber Kosteneffizienz priorisierten. Ziel war es, KI umfangreich einzusetzen, um den Output zu steigern und letztendlich Geschäftswachstum voranzutreiben.
Insgesamt senkten Modellauswahl, Funktionseinschränkungen und auf jedes Geschäft zugeschnittene Budgets die geschätzten täglichen Kosten um etwa 65 %. Dieser Ansatz hielt das Gesamtbudget unter Kontrolle und richtete Ressourcen gleichzeitig auf die Unternehmen aus, die das Unternehmen wachsen lassen wollte.
Ergebnisse auf einen Blick
Die Modelloptimierung und die strategische Ressourcenverteilung erzielten die folgenden Ergebnisse:
Ein Wechsel von der Nutzung des leistungsfähigsten Modells für jede Aufgabe hin zur Auswahl von GPT‑6 Astra, GPT‑6.1 Sol oder GPT‑6 Luna auf Grundlage von Aufgabenkomplexität und Entwicklungsphase.
Aufrechterhaltung der Entwicklungsleistung nach der standardmäßigen Einschränkung des Fast-Modus, unterstützt durch Teampraktiken wie die parallele Ausführung von Aufgaben.
Budgetobergrenzen, die etwa 20 % höhere Effizienz in ausgereiften Geschäften mit aktiven Investitionen in neue Geschäfte kombinierten.
Eine Senkung der geschätzten täglichen Kosten um 65 % gegenüber GPT‑5.5 durch die Auswahl zwischen den GPT‑6- und 6.1-Modellen.
Ermittlung des echten ROI von KI-Investitionen durch Feature-Releases
Durch Modelloptimierung senkte das Unternehmen die Kosten, ohne Entwicklungsgeschwindigkeit oder Qualität einzuschränken. Die Teams erleben zudem, dass KI den Zyklus von der Entwicklung bis zur Veröffentlichung stetig verkürzt.
Doch das Unternehmen blickt weiter voraus. Macht schnellere Entwicklung allein eine KI-Investition zu einem Erfolg? Der Zusammenhang zwischen schnellerer Entwicklung und Kundennutzen blieb unklar. „Es ist fast eine Selbstverständlichkeit, dass KI die Systementwicklung und -aktualisierung beschleunigen kann“, sagt Tokitake. „Was wir wirklich verstehen wollen, ist, ob sich diese schnellere Entwicklung tatsächlich in Mehrwert für Kunden übersetzt.“
Diese Frage veranlasste das Unternehmen, eine eigene Kennzahl zu entwickeln und die Grundlage für die Bewertung von KI-Investitionen von Entwicklungsgeschwindigkeit und Nutzungsvolumen auf Kundennutzen umzustellen.
Tokitake erklärt: „Bei der Nutzung von KI können wir die Kosten einzelner Aufgaben nachverfolgen, aber die Gesamtkosten einer vollständigen Arbeitseinheit – einem Feature-Release – bleiben oft eine Blackbox. Deshalb haben wir die Messung um jedes Feature-Release als einzelne Einheit herum konzipiert. Indem wir den Kundennutzen, den ein Release liefert, mit den tatsächlich investierten KI-Kosten verknüpfen, wollen wir den Return on Investment sichtbar und präzise machen.“
Das Unternehmen baut derzeit die Pipeline zur Berechnung dieser Kennzahl auf. Einmal fertiggestellt, wird sie den wahren ROI in puncto Kundennutzen sichtbar machen. LegalOn Technologies geht über KI-Kostenmanagement hinaus und verknüpft Technologieinvestitionen direkt mit Geschäftswert.
Aufbau einer Organisation und Governance für das KI-Zeitalter
Das nächste Ziel ist es, das KI-Know-how einzelner Ingenieure in eine organisationsweite Fähigkeit zu verwandeln. Als ersten Schritt plant das Unternehmen den Aufbau einer Wissensdatenbank, um praktische Erfahrungen zu sammeln und zu teilen. Sie soll Wissen festhalten, etwa die besten Modellkombinationen für Design, Implementierung und Review, und einzelne Erfolge schnell in unternehmensweite Best Practices überführen.
Diese durch die praktische Erfahrung der Teams getriebenen Veränderungen prägen auch Organisation und Personalrekrutierung. Die durch KI erzielten Produktivitätsgewinne veranlassen das Unternehmen, grundlegend neu zu überdenken, wie die Arbeit zwischen Menschen und KI aufgeteilt wird, sowie seine Personalplanung. Bereits jetzt legt es bei Einstellungen Wert auf KI-Kompetenzen, während sich seine Investitionsstrategie und Organisationsstruktur weiterentwickeln.
Um aus der KI-Einführung einen dauerhaften Wettbewerbsvorteil zu machen, muss das Gleichgewicht zwischen Governance und Handlungsfreiheit der Teams fortlaufend verfeinert werden. Das AID CoE und das Sicherheitsteam arbeiten zusammen, um Leistung, Kosten und Risiko aus mehreren Perspektiven zu optimieren und ein flexibles Rahmenwerk zu schaffen, das Experimenten in der gesamten Organisation unterstützt.
„Übermäßige Einschränkungen durch Regeln und Budgets können den Schwung einer Organisation untergraben. Was wir brauchen, ist ein flexibles Betriebsmodell, das Risikokontrolle effektiv mit der Geschwindigkeit ins Gleichgewicht bringt, die Teams benötigen.“Yuta Tokitake, Senior Engineering Manager, LegalOn Technologies