TL;DR
NVIDIA Kumo Relational ist ein vortrainiertes relationales Fundamentmodell, das direkt Vorhersagen auf Unternehmensdatenbanken trifft. Gegeben eine prädiktive Abfrage sammelt es bis zu 10,000 historische Beispiele als Kontext und sagt Ergebnisse wie Kundenabwanderung, Nachfrage oder Betrug in einem einzigen Forward-Pass voraus. Es benötigt kein aufgabenspezifisches Training, keine Feature-Entwicklung und kein Vereinfachen von Tabellen. Kumo Relational ist das erste Few-Shot-Fundamentmodell, das überwachtes maschinelles Lernen auf gängigen relationalen Benchmarks übertrifft. Über 41 Aufgaben auf 15 Datenbanken hinweg schlägt es überwachte relationale Deep-Learning-Modelle und von Experten entwickelte Gradient-Boosted-Tree-Pipelines, und auf dem SAP-SALT-Enterprise-Benchmark übertrifft es AutoGluon-Ensembles um 8 % in der mittleren reziproken Rangfolge (MRR). Es skaliert auf Datenbanken mit über 500 Mrd. Zeilen und funktioniert sowohl für Menschen als auch für Agenten – entweder über NVIDIAs Open-Source-, GPU-native Bibliothek für strukturierte Datenmodelle oder als NVIDIA NIM.
- Paper: https://arxiv.org/abs/2604.12596
- Dokumentation: https://docs.nvidia.com/sdgm/rfm/overview
Der Wandel zu Fundamentmodellen für strukturierte Daten
Fundamentmodelle haben das Vorgehen für Sprache und Vision bereits neu geschrieben. Noch nicht lange her bedeutete Produktions-NLP ein dediziertes Modell pro Aufgabe, jeweils gespeist von einer eigenen Pipeline aus Tokenisierung, Lemmatisierung und N-Grammen. LLMs machten diesen Stack aus drei Gründen weitgehend überflüssig: Sie waren genauer als die besten aufgabenspezifischen Modelle, deutlich einfacher in Produktion zu bringen und flexibel genug, um eine neue Ära agentischer Anwendungen zu eröffnen.
Derselbe Wandel findet nun bei strukturierten Daten statt. Relationale Datenbanken tragen die kritischsten Geschäftsentscheidungen der Welt, doch prädiktive Modellierung auf ihnen erfordert nach wie vor wochenlange Feature-Entwicklung, aufgabenspezifisches Training und abgestimmte Pipelines. Fundamentmodelle für strukturierte Daten ändern das – aus denselben drei Gründen:
Bessere Genauigkeit schon heute: Als Drop-in-Ersatz schlagen diese Modelle bereits viele Produktionspipelines, insbesondere XGBoost. Bei Klassifikationsaufgaben auf RelBench V1 übertrifft Kumo Relational Gradient-Boosted Trees auf von Experten entwickelten Features um durchschnittlich fast 4 AUROC-Punkte. Auf SAP SALT schlägt es XGBoost mit entwickelten Features ab Werk um 7 MRR-Punkte und nach Feinabstimmung um 13 MRR-Punkte. Diese Ergebnisse machen einen überzeugenden Fall dafür, Produktions-XGBoost-Pipelines durch Kumo Relational zu ersetzen.
Einfachheit und Agilität: Ein vortrainiertes Modell ersetzt separate Pipelines für einzelne Aufgaben. Eine neue Vorhersage wird zu einer Abfrage statt zu einem Projekt, sodass ML-Teams endlich Anwendungsfälle angehen können, die traditionelles ML auf jeder Organisationsebene zu arbeitsintensiv machte, um sie zu entwickeln.
Agenten, die vorhersagen können: LLMs ermöglichen Agenten zu lesen, zu schreiben und zu denken. Fundamentmodelle für strukturierte Daten ermöglichen ihnen vorherzusehen, was als Nächstes passiert – etwa welcher Kunde abwandert – und entsprechend zu handeln. Kumo Relational ist bereits darauf ausgelegt, von Agenten aufgerufen zu werden, und seine Predictive Query Language (PQL) bietet ihnen eine einfache Schnittstelle, um prädiktive Fragen zu stellen.
Heute stellen wir vor: Kumo Relational (Paper, Dokumentation), ein vortrainiertes Fundamentmodell, das dieses Paradigma auf relationale Daten bringt. Verbinden Sie eine Datenbank, beschreiben Sie, was vorhergesagt werden soll, und erhalten Sie Vorhersagen in einem einzigen Forward-Pass. Kein Training erforderlich.
Wie Kumo Relational funktioniert
Die meisten Fundamentmodelle für strukturierte Daten arbeiten auf einer einzigen flachen Tabelle. Reale Daten liegen stattdessen in relationalen Datenbanken: Nutzer verbunden mit Bestellungen verbunden mit Produkten, alles sich über die Zeit entwickelnd. Das Einebnen dieser Beziehungen in eine Zeile durch manuelle Aggregation (z. B., „durchschnittlicher Bestellwert in den letzten 30 Tagen“) verliert feinkörnige strukturelle Signale und erfordert erheblichen menschlichen Aufwand.
Kumo Relational ist ein Relational Foundation Model , das direkt auf der Datenbank arbeitet und ihre Tabellen, Fremdschlüssel und Zeitstempel respektiert. Es wird einmalig auf synthetischen relationalen Daten vortrainiert, die reale Datensätze widerspiegeln, und passt sich durch In-Context-Learningan jede neue Aufgabe an, wobei es zur Inferenzzeit bis zu 10,000 Kontextbeispiele liest. Jedes Beispiel verbindet einen lokalen Subgraphen um eine Entität zu einem Zeitpunkt mit ihrer Ground-Truth-Zielgröße (z. B., "dieser Nutzer ist abgewandert" oder "dieser Artikel wurde 142 Mal verkauft").
![Überblick über das NVIDIA Kumo Relational System: (a) Datenbankintegration, (b) eine Prompting-Schnittstelle, die natürliche Sprache in eine prädiktive Abfrage umwandelt, und (c) automatische Kontexterzeugung, die das NVIDIA Kumo Relational Modell speist, das horizontal über Mandanten skaliert.]
Abbildung 1. Überblick über das Kumo Relational System. Verbinden Sie eine Datenbank, geben Sie eine prädiktive Abfrage an, und Kumo Relational übernimmt den Rest, von der Kontexterzeugung bis zur Modellinferenz.
Um eine Vorhersage zu treffen, muss Kumo Relational drei Dinge tun: (1) die Werte innerhalb jeder Tabelle verstehen, (2) Datensätze über Tabellen hinweg in Beziehung setzen und (3) Kontextbeispiele mit bekannten Zielen auf die vorhergesagte Entität beziehen. So funktioniert es:
![Kumo-Relational-Architektur: (a) Kontexteingabe mit Task-, Users-, Orders- und Items-Tabellen; (b) Spalten- und Zeilen-Attention innerhalb von Tabellen mit injizierten Kontextzielen; (c) Graph-Attention und Cross-Sample-Attention über Tabellen hinweg.]
Abbildung 2. Kumo-Relational-Architektur: (a) Kontexteingabe, (b) Schlussfolgern innerhalb von Tabellen, (c) Schlussfolgern über Tabellen hinweg.
Automatische Kontexterzeugung: Aufgaben werden in der Predictive Query Language (PQL)geschrieben, einer deklarativen Schnittstelle, bei der man angibt, was vorhergesagt werden soll, nicht wie. Bei zeitlichen Aufgaben spielt Kumo Relational historische Datenbankzustände erneut ab: Es sampelt entitätszentrierte Subgraphen bis zu einem Anker-Zeitstempel und berechnet jedes Ziel aus Ereignissen nach diesem Zeitstempel, während dem Modell nur die Daten von vor diesem Zeitstempel bereitgestellt werden. Dies verhindert Datenleckagen.
Schlussfolgern innerhalb von Tabellen: Ein leichtgewichtiges Netzwerk verarbeitet jede Tabelle unabhängig und wechselt zwischen Column Attention (die Werte innerhalb einer Spalte in Beziehung setzt) und Row Attention (die Merkmale innerhalb einer Zeile in Beziehung setzt). Das Modell lernt, welche Spalten und Zeilen für die aktuelle Vorhersage wichtig sind, und filtert Rauschen heraus, bevor es sich ausbreitet.
Schlussfolgern über Tabellen hinweg: Ein größeres Netzwerk verteilt die Zeilen-Einbettungen über die relationale Struktur mittels Graph Attention über Primärschlüssel-/Fremdschlüssel-Beziehungen, abwechselnd mit Cross-Sample Attention über Kontextbeispiele hinweg. Hier findet das relationale Schlussfolgern statt, etwa die Verknüpfung eines Benutzerprofils mit seiner Transaktionshistorie. Da diese Phase auf Zeilen-Einbettungen arbeitet und nicht auf jeder Zelle in jeder Tabelle, vermeidet der Design quadratische Kosten und skaliert auf große Kontexte und tiefere Subgraphen.
Wie Kumo Relational entwickelt wurde
Kumo Relational wird vollständig auf synthetischen relationalen Daten vortrainiert, die so simuliert sind, dass sie reale relationale Datenbanken mit vielfältigen prädiktiven Abfragen widerspiegeln. Das Vortraining erfolgt in Stufen, von einzelnen Tabellen bis hin zu zunehmend komplexen relationalen Strukturen.
Die vielfältigen relationalen Datenbanken, die für das Vortraining benötigt werden, sind selten öffentlich zugänglich, daher schließt synthetische Daten diese Lücke. Der Generator von Kumo Relational baut auf dem Ansatz von PluRel (Kothapalli et al., ICML 2026) auf, der Generatoren für Tabellendaten auf vollständige relationale Datenbanken ausdehnt. Mitglieder des Kumo-Teams haben an der Entwicklung von PluRel mitgewirkt und das ursprüngliche Paper mitverfasst. PluRel erzeugt jede Datenbank in drei Stufen: ein Schema, Fremdschlüssel-Verknüpfungen zwischen Zeilen, die sich wie in echten Daten zu Clustern gruppieren, und Spaltenwerte aus Structural Causal Models mit zeitlichen Trends und tabellenübergreifenden Abhängigkeiten. Die Generierung ist ressourcenschonend, sodass die Vortrainingsdaten effektiv unbegrenzt sind, und das PluRel-Paper zeigt, dass der Vortrainingsverlust einem Potenzgesetz folgt, wenn synthetische Datenbanken hinzugefügt werden, mit Gewinnen, die sich auf reale Datenbanken übertragen lassen.
Durch dieses Vortraining lernt das Modell, Informationen über Tabellen hinweg zu filtern, zu korrelieren und zu aggregieren, anstatt sich auf feste Aggregationen zu verlassen. Wenn maximale Genauigkeit entscheidend ist, kann Kumo Relational zusätzlich auf einem bestimmten Datensatz und einer bestimmten Aufgabe feinabgestimmt werden.
Leistung
In diesem Paper haben wir Kumo Relational auf 41 Benchmarks über 15 relationale Datenbanken aus RelBench V1 und V2, SAP SALT und 4DBInfer evaluiert, aus den Bereichen E-Commerce, Medizin, Unternehmen, Soziales und Wissenschaft. Keiner dieser Datensätze war im Vortraining gesehen worden. Kumo Relational übertrifft die stärksten überwachten Modelle sowohl bei der Klassifikation als auch bei der Regression, einschließlich relationaler Deep-Learning-Modelle und fachmännisch entwickelter tabellarischer Ensembles. Auf der RelArena-α -Bestenliste, die relationale Modelle und Systeme auf RelBench V1 vergleicht, liegt es außerdem ohne weitere Anpassung auf der Genauigkeits-Effizienz-Pareto-Front:
![Streudiagramm der RelArena-α-Bestenliste: relative Genauigkeit als Elo über Aufgaben (y-Achse) gegenüber medianer Inferenzzeit pro 1,000 Samples (x-Achse, logarithmische Skala). Kumo Relational liegt mit etwa 17 Sekunden und Elo 1,842 auf der Pareto-Front. Der am höchsten bewertete Eintrag, rt-plurel, erreicht Elo 1,878 bei etwa 7,300 Sekunden, rund 430-mal langsamer. Jedes andere Foundation-Modell, Feature-Engineering-System und überwachte Modell erzielt niedrigere Werte und läuft langsamer als Kumo Relational.]
Abbildung 3. RelArena-α-Bestenliste: Elo über Aufgaben gegenüber medianer Inferenzzeit pro 1,000 Samples (logarithmische Skala). Kumo Relational ist etwa 430× schneller als der am höchsten bewertete Eintrag bei ähnlicher Genauigkeit.
Das Papier berichtet außerdem, dass Kumo Relational beim SAP SALT Enterprise-Benchmark große AutoGluon-Ensembles um 8 % bei der mittleren reziproken Rangposition (MRR) übertrifft und aktuelle Tabellen-Foundation-Modelle um etwa 25 %, und dass Fine-Tuning den Vorsprung gegenüber AutoGluon auf 16 % ausbaut. Es bewährt sich auch unter schwierigen Bedingungen: Es liefert gute Ergebnisse mit nur 0,2 % der Trainingsdaten als Kontext, bleibt stabil, wenn bis zu 75 % der Foreign-Key-Verbindungen entfernt werden, und verschlechtert sich kaum, wenn viele verrauschte Spalten hinzugefügt werden.
Einschränkungen
Kumo Relational funktioniert am besten mit Daten, die aussagekräftige Beziehungen und zeitliche Dynamiken aufweisen, etwa Nutzerverhalten im Zeitverlauf. Bei Aufgaben mit sehr großen Trainingsmengen können aufgabenspezifische überwachte Modelle In-Context-Vorhersagen noch übertreffen; in unseren Benchmarks wurden dabei höchstens 10,000 Kontextbeispiele verwendet. Das Fine-Tuning des Foundation-Modells ist genau für diesen Fall konzipiert. Prädiktive Signale müssen zudem innerhalb einer begrenzten Anzahl von Hops erreichbar sein, beginnen Sie daher mit einer fokussierten Abfrage über wenige relevante Tabellen und erweitern Sie den Graphen bei Bedarf.
Demo
Kumo Relational führt In-Context-Learning nativ auf Datenbanken aus: im Speicher, über Datenbank- und Warehouse-Konnektoren oder über eine benutzerdefinierte Graph-Engine, die über 500B+ Zeilen per Memory-mapped I/O mit bis zu 5 GB/s verarbeitet. Es ist in NVIDIAs neu veröffentlichter, GPU-nativer Bibliothek für strukturierte Datenmodelle verfügbar, derselben Open-Source-Bibliothek, die unser Schwesternmodell antreibt, Kumo Tabular. Die Bibliothek lädt die Gewichte bei der ersten Verwendung vom Hugging Face Hub herunter, sodass Sie das Modell in einem GPU-gestützten Notebook laden und direkt damit Vorhersagen treffen können. Der folgende Code übergibt Kontextbeispiele, Vorhersageentitäten und deren zugehörige Tabellen an das Modell:
# pip install structured-data-models
import sdm
model = sdm.models.KumoRelational(device="cuda")
pred = model(
# In-context training table (fkeys/timestamps/targets):
x_context=...,
y_context=...,
# Prediction examples (fkeys/timestamps):
x_query=...,
# Multi-table information for context/prediction entities:
related_context_tables=...,
related_query_tables=...,
)
Sehen Sie sich die relationalen Beispiele der Bibliothek an, um vollständige RelBench- und SAP SALT-Pipelines zu erfahren, einschließlich des Samplings der zugehörigen Tabellen jeder Entität.
Um das Modell stattdessen als separaten Dienst zu betreiben, deployen Sie es als NVIDIA NIM und richten den Open-Source- structured-data-models-client aus Ihrem Notebook darauf. Sie schreiben die Vorhersage in PQL, und der Client sammelt die Kontextbeispiele und zugehörigen Tabellen und sendet dann die Anfrage:
# pip install 'structured-data-models-client[relational]'
import sdm_client
client = sdm_client.SDMClient(url="http://localhost:8001") # NIM URL
query = sdm_client.PredictiveQuery(
# Prediction task in Predictive Query Language (PQL):
"PREDICT COUNT(orders.*, 0, 30, days) FOR EACH users.user_id",
# Multi-table data as pandas DataFrames (keys/links inferred):
{"users": ..., "orders": ...},
)
pred = client.predict(
# Context examples and related tables for the entities to predict:
query.materialize(indices=[1, 2, 3]),
model=sdm_client.KumoRelational(),
)
Sehen Sie sich die Beispiel-Notebooks des Clients für End-to-End-Läufe gegen ein lokales NIM und auf Databricks an.
Mit NVIDIA Kumo Relational loslegen
NVIDIA Kumo Relational ist ab heute verfügbar. Lesen Sie das Forschungspapier, erkunden Sie das Quickstart-Notebookoder beginnen Sie, Vorhersagen auf Ihren eigenen Daten zu treffen. Der Code wird unter der Apache 2.0-Lizenz veröffentlicht, die Modellgewichte unter der OpenMDW License Agreement, Version 1.1. NVIDIA ist der Überzeugung, dass Trustworthy AI eine gemeinsame Verantwortung ist, und wir haben Richtlinien und Praktiken etabliert, um die Entwicklung für ein breites Spektrum von KI-Anwendungen zu ermöglichen. Beim Download oder der Verwendung gemäß unseren Nutzungsbedingungen sollten Entwickler mit ihrem unterstützenden Modellteam zusammenarbeiten, um sicherzustellen, dass dieses Modell die Anforderungen der jeweiligen Branche und des jeweiligen Anwendungsfalls erfüllt und unerwartetem Produktmissbrauch begegnet. Bitte melden Sie Probleme mit Modellqualität, Risiken, Sicherheitsschwachstellen oder NVIDIA AI-Bedenken hier.
- Papier: https://arxiv.org/abs/2604.12596
- Dokumentation: https://docs.nvidia.com/sdgm/rfm/overview
- Code: https://github.com/NVIDIA/structured-data-models
- PyPI: https://pypi.org/project/structured-data-models/
- Client-Code: https://github.com/NVIDIA/structured-data-models-client
- Client-PyPI: https://pypi.org/project/structured-data-models-client/
- Gewichtungen: https://huggingface.co/nvidia/Kumo-Relational
- Quickstart-Notebook: https://github.com/NVIDIA/structured-data-models-client/blob/main/examples/local/relational.ipynb
- Verwandte Forschung: Predictive Query Language (PQL), PluRel, Kumo Tabular
Danksagungen
Wir danken dem gesamten Kumo-Team für seine unschätzbare Unterstützung. Unser besonderer Dank gilt Josh Przybylko, Adi Wadaskar, Hema Raghavan, Manush Murali, Raja Rao DV, Keti Jovanovska, Zack Drach, Vanja Josifovski, Myungwhan Kim, Blaž Stojanovič, Siyang Xie, Alan Krumholz, Effy Fang, Abdullah Al-chihabi, Disha Dubey, Devan Johnson, Joseph Oliveira, Angela Liu, Miha Pelko, Vedaant Jain, Sally Liu, Aleksandar S. Sokolovski, Alex Porter und Ramona Bendias.