OpenAI SitemapAktualisiert

LegalOn halbiert die Kosten des Codex, während die Entwicklungsgeschwindigkeit erhalten bleibt

LegalOn reduzierte die geschätzten täglichen Kosten des Codex um 65%, während die Entwicklungsgeschwindigkeit beibehalten wurde. Es passte Astra, Sol und Luna an die Aufgaben an und verwaltete die Budgets strategisch.

Bildquelle · OpenAI Sitemap

LegalOn Technologies bietet weltweit professionelle KI-Lösungen an, die mit KI die rechtlichen Arbeiten und andere wichtige Geschäftsfunktionen unterstützen. Durch die Kombination von fachlicher Expertise und KI ermöglicht das Unternehmen es den Mitarbeitern, sich auf komplexe Entscheidungen zu konzentrieren. Ziel ist eine von KI gestützte Verwaltung, die die Qualität und Geschwindigkeit der Geschäftsentscheidungen verbessert.

Diese Methode erstreckt sich über ihre Produkte hinaus bis zur Verwandlung der Organisation selbst in eine Art „AI-Native“-Organisation. Das Unternehmen hat Codex in seinen Entwicklungsprozess integriert und die Nutzung im gesamten Unternehmen durch den täglichen Gebrauch verbreitet.

Als die Adoption verbreitet wurde, entstand eine neue Herausforderung: Kostenkontrolle. Die unbegrenzte Nutzung von Hochleistungsmodellen könnte die Ausgaben erhöhen, während allgemeine Beschränkungen das Produktivitätswachstum gefährden könnten, das die KI bereits ermöglicht hatte.

Wie könnte man die Kosten senken, ohne die Entwicklung zu verlangsamen? LegalOn Technologies löste dieses Problem, indem sie zwischen GPT‑6 (Astra, Luna) und GPT‑6.1 Sol entschied, basierend auf der Aufgabenkomplexität und dem Entwicklungsstand, und passte die Budgets an den Wachstumsstand jedes Unternehmens an. Das Unternehmen reduzierte die Kosten halbiert, während die Entwicklungsgeschwindigkeit beibehalten wurde.

Modellen optimieren, um die Entwicklungsgeschwindigkeit zu erhöhen und Kosten zu senken

Das Unternehmen gab den Entwicklern zunächst unbegrenzten Zugang zu seinem Hauptmodell GPT‑5.5 im Schnellen Modus. Sie erweiterten seine Anwendung auf Design, Implementierung und alltägliche Arbeiten und lernten durch Experimente, wie man die Verantwortlichkeiten zwischen Menschen und KI am besten verteilt.

Die weiterhin unbegrenzte Verwendung von Hochleistungsmodellen würde jedoch unweigerlich den Jahresbudget übersteigen. Das von der Firma verwendete, durch KI gestützte Entwicklungszentrum (AID CoE) begann mit der Erstellung von Leitlinien für die Modellauswahl. Das AID CoE testete und überwachte die Modelle, während die Manager ihre Erkenntnisse mit ihren Teams teilten. Dadurch konnte jeder Ingenieur unabhängig den am besten geeigneten Modell für jede Aufgabe wählen.

Passende Modelle zu Aufgaben zuordnen und Ressourcen strategisch vergeben

Die neuen Richtlinien veranlassten das Unternehmen, von der Verwendung des leistungsstärksten Modells für jede Aufgabe zu einem Auswählen des richtigen Modells für die jeweilige Aufgabe überzugehen. Die Teams begannen mit einem leichteren Modell und wechselten zu leistungsfähigeren Modellen, wenn die Aufgabengebung komplexer wurde.

Um die Governance zu unterstützen, führte das Unternehmen auch Systemsteuerungen durch administrativen Einstellungen ein, mit monatlichen Nutzungsgrenzen für Abteilungen und Einzelpersonen. Der AID CoE überwacht die Nutzung und passt die Grenzen entsprechend den Geschäftsanforderungen an.

Die interne Tests unter diesen Kontrollen halfen dabei, die Auswahlkriterien konkreter zu machen. Der GPT‑6 Luna, das leichteste Modell, handhabt die Code-Implementierung mit klaren Anforderungen; der GPT‑6.1 Sol unterstützt Standard-Design, Datenanalyse und Dokumentation; und der GPT‑6 Astra, das leistungsfähigste Modell, verfügt über fortgeschrittene Entscheidungsfunktionen, einschließlich Architekturdesign. Die Anpassung der Modelle an Aufgaben wurde allmählich zu einer gemeinsamen Praxis in den Teams.

Wahl zwischen drei Modellen für unterschiedliche Aufgaben

GPT-6 Luna

Alltägliche Ausführung und Implementierung; Durchführung von täglichen Automatisierungen; Delegation relativ einfacher Aufgaben und Analysen; Code-Implementierung, hauptsächlich als Subagent.

GPT-6.1 Sol

Standard-Design und -Analyse; relativ einfache Softwaredesign; Routine-Nummerikalischer Analysen und Dokumenterstellung; Aufgaben, die kürzere Fertigstellungszeiten erfordern als bei Luna.

GPT-6 Astra

Komplexe Analyse, Design und Orchestrierung; komplexe Analyse und Dokumenten erstellen; komplexes Softwaredesign; Agenten koordinieren als Orchestrator.

Neben der Modelauswahl begann das Unternehmen, den Schnellmodus standardmäßig einzuschränken und nur bei Bedarf individuelle Anfragen zuzulassen. Obwohl diese Änderung Bedenken hinsichtlich der Entwicklungsgeschwindigkeit hervorrief, verwendeten die Teams Ansätze wie die parallele Ausführung von Aufgaben, um die Leistung aufrechtzuerhalten und eine reibungslose Übergangsphase zu gewährleisten.

Es wurden auch Budgets für die Ausgaben im Bereich Künstliche Intelligenz auf Ebene des Departements, der Gruppe und des Einzelnen festgelegt. Das etablierte Unternehmen LegalOn wurde gebeten, die Kosteneffizienz um bis zu etwa 20% zu erhöhen, während neue Unternehmen in der Startphase großzügige Budgets erhielten, um eine aktive Nutzung von Künstlicher Intelligenz zu fördern.

Yuta Tokitake, Senior Engineering Manager bei LegalOn Technologies, erklärt, dass die neuen Unternehmen die Geschwindigkeit des Geschäfts vor der Kosteneffizienz priorisierten. Ziel war es, durch den umfassenden Einsatz von KI die Produktivität zu steigern und letztendlich das Wachstum des Unternehmens zu fördern.

Gemeinsam führten die Modellauswahl, die Funktionseinschränkungen und die auf jedes Unternehmen zugeschnittenen Budgets dazu, dass die geschätzten täglichen Kosten um etwa 65% gesenkt wurden. Dieser Ansatz hielt das Gesamtbudget unter Kontrolle und leitete gleichzeitig die Ressourcen in Richtung der Unternehmen, die das Unternehmen vergrößern wollte.

Ergebnisse in einem Blick

Die Optimierung des Modells und die strategische Allokation von Ressourcen lieferten folgende Ergebnisse:

  • Eine Veränderung von der Verwendung des am besten geeigneten Modells für jede Aufgabe auf die Auswahl von GPT‑6 Astra, GPT‑6.1 Sol oder GPT‑6 Luna je nach Aufgabenkomplexität und Entwicklungsstadium.

  • Die Entwicklungsleistung bleibt nach der Standardbeschränkung des Fast-Modus erhalten, und wird durch Teampraktiken wie die parallele Aufgabenausführung unterstützt.

  • Die Budgetgrenzen führen zu einer etwa 20% höheren Effizienz in etablierten Unternehmen sowie zu aktiven Investitionen in neue Unternehmen.

  • Eine Reduzierung der geschätzten täglichen Kosten um 65 % im Vergleich zu GPT‑5.5, indem man zwischen den Modellen GPT‑6 und 6.1 wählt.

Messung des wahren ROI von AI-Investitionen durch Feature-Release

Durch die Optimierung des Modells reduzierte das Unternehmen die Kosten, ohne die Entwicklungsgeschwindigkeit oder die Qualität zu beeinträchtigen. Die Teams erkennen außerdem, dass die KI den Zeitraum von der Entwicklung bis zur Veröffentlichung stetig verkürzt.

Aber das Unternehmen blickt weiter voraus. Macht eine schnellere Entwicklung allein eine Investition in KI zu einem Erfolg? Die Verbindung zwischen einer schnelleren Entwicklung und dem Kundenwert blieb unklar. „Es ist fast selbstverständlich, dass KI die Systementwicklung und -aktualisierungen beschleunigen kann“, sagt Tokitake. „Was wir wirklich wissen wollen, ist, ob diese schnellere Entwicklung tatsächlich zu Wert für die Kunden führt.“

Diese Frage veranlasste das Unternehmen, seine eigene Metrik zu entwickeln, wodurch die Grundlage für die Bewertung von AI-Investitionen von der Entwicklungsgeschwindigkeit und dem Nutzungsvolumen auf den Kundewert abgeleitet wurde.

Tokitake erklärt: „Wenn wir KI verwenden, können wir den Kostenaufwand jedes einzelnen Aufgabens die wirken, aber der Gesamtkostenaufwand für eine vollständige Arbeit – einen Feature-Release – bleibt oft ein Black Box. Deshalb haben wir die Messung um jeden Feature-Release als einzige Einheit hergestellt. Durch die Verknüpfung des von diesem Release erbrachten Kundeneffekts mit den tatsächlichen Kosten der KI, die dafür investiert werden, zielt unser Ziel darauf ab, den Investitionsreturn sichtbar und genau zu machen.“

Das Unternehmen baut derzeit den Pipeline-Prozess zur Berechnung dieser Metrik. Sobald er abgeschlossen ist, wird der tatsächliche ROI in Bezug auf den Kundewert ersichtlich werden. LegalOn Technologies geht über die Kostenverwaltung mit KI hinaus und verbindet direkt Investitionen in Technologie mit Unternehmenswert.

Erstellen einer Organisation und Governance für die AI-Ära

Das nächste Ziel ist es, das AI-Wissen einzelner Ingenieure zu einer über die gesamte Organisation verteilten Kapazität zu machen. Als erster Schritt plant das Unternehmen, eine Wissensdatenbank zu erstellen, um praktische Erfahrungen zu sammeln und zu teilen. Dabei wird das Wissen wie die besten Modelkombinationen für Design, Implementierung und Überprüfung gesammelt, und individuelle Erfolge werden schnell in übergeordnete Best Practices des Unternehmens verwandelt.

Diese Veränderungen, die durch die praktische Erfahrung der Teams verursacht werden, prägen auch die Organisation und die Beschäftigungspolitik. Die durch KI vermittelten Produktivitätsgewinne lassen das Unternehmen grundlegend überdenken, wie Arbeit zwischen Menschen und KI aufgeteilt wird, sowie seine Personalstrategie. Es hat bereits begonnen, KI-Fähigkeiten bei der Beschäftigung zu betonen, da die Investitionsstrategie und die Organisationsstruktur sich weiterentwickeln.

Die Verwirklichung von KI-Einsatz als nachhaltige Wettbewerbsvorteile erfordert eine kontinuierliche Optimierung des Gleichgewichts zwischen Regulierung und der Freiheit der Teams, sich zu verhalten. Das AID CoE und das Sicherheitsteam arbeiten gemeinsam daran, Leistung, Kosten und Risiken aus verschiedenen Perspektiven zu optimieren und ein flexibles Framework zu schaffen, das Experimente im gesamten Unternehmen unterstützt.

Übermäßige Einschränkungen durch Regeln und Budgets können den Impuls einer Organisation untergraben. Was wir brauchen, ist ein flexibles Betriebsmodell, das die Risikoverwaltung effektiv mit der Geschwindigkeit der Teams in Einklang bringt.
Yuta Tokitake, Senior Engineering Manager, LegalOn Technologies

OpenAI <3 Startups

Mit der Gemeinschaft teilenBeginnen Sie mit dem Bau (öffnet in einem neuen Fenster)
Originalquelle

OpenAI Sitemap

Hinweise zum Inhalt

Originalveröffentlichung und Rechte liegen bei der Quelle.

Maschinelle Übersetzung · Original beachten