Auf seiner Entwicklerkonferenz am Donnerstag zeigte Box ein neues Feature, das Nvidias Nemotron-Embedding-System in den Kern seines Produkts integrieren wird.
Das neue Feature namens Box Content Retrieval ermöglicht es Agenten, Anfragen weitaus effektiver zu beantworten, indem sie sich auf die von Nemotron erzeugten eingebetteten Metadaten stützen.
Box sagt, der Nutzen für die Nutzer seien schnellere, genauere und günstigere Anfragen. Nvidias VP für Generative-AI-Software, Kari Briski, told TechCrunch, dass sie erwartet, dass Anfragen viermal schneller beantwortet werden, mit 20 % weniger Fehlern und 90 % weniger verwendeten Tokens.
Das System wird für alle Enterprise-Advance-Kunden von Box verfügbar sein und Anfang nächsten Jahr ausgerollt.
„Das steigert sowohl die Relevanz unserer Suchtechnologie für Agenten enorm“, sagte Box-CEO Aaron Levie. „Statt dass ein Agent jedes Dokument sozusagen durchlesen muss, können wir die Abschnitte aus den Dokumenten zurückgeben, die für die Anfrage des Nutzers oder die Aufgabe, die der Agent erledigt, am relevantesten sind.“
Das Feature ist eine Umsetzung des Nvidia-Projekts Nemotron Embed , das Open-Weight-Embedding-Modelle zur Verbesserung automatisierter Retrieval-Systeme bietet. Große Labore haben solche Modelle oft übersehen, die LLMs nutzen, um Daten vorzuverarbeiten, damit sie von Agenten besser verwendet werden können. Dieser Sektor war ein Schwerpunkt von Nvidias Open-Source-Modellprojekt; die jüngere Nemotron-Veröffentlichung im Juli führte den RTEB-Benchmark an, der die Retrieval-Qualität misst.
Das System wird laut Box am nützlichsten in Verbindung mit aktiven Agenten sein; als Beispiel nennt das Unternehmen Anwälte, die unter dem neuen System angeblich relevante Klauseln und Präzedenzfälle leichter finden können. Da Nemotrons Embeddings über einfache Schlüsselwörter hinausgehen und zugrunde liegende Konzepte abbilden, kann ein Suchwerkzeug auch dann verwandte rechtliche Themen aufdecken, wenn andere Formulierungen oder Sprachen verwendet werden.
Während die Nemotron-Modelle frei verfügbar sind, stützt sich das System auch stark auf Box’ bereits vorhandene Metadaten und Berechtigungskontrollen, was eine Neuerstellung von Grund auf erschwert. „Wir packen wahrscheinlich fünf verschiedene Technologien in eine einzige einfache API“, sagte Levie gegenüber TechCrunch.