TL;DR
NVIDIA Kumo Relational은 엔터프라이즈 데이터베이스에서 직접 예측을 수행하는 사전 학습된 관계형 파운데이션 모델입니다. 예측 쿼리가 주어지면 최대 10,000개의 과거 사례를 컨텍스트로 수집하고, 단일 순전파(forward pass)로 이탈, 수요, 사기와 같은 결과를 예측합니다. 작업별 학습도, 특성 엔지니어링도, 테이블 평탄화도 필요하지 않습니다. Kumo Relational은 일반적인 관계형 벤치마크에서 지도 머신러닝을 능가한 최초의 few-shot 파운데이션 모델입니다. 15개 데이터베이스의 41개 작업에서 지도 학습 기반 관계형 딥러닝 모델과 전문가가 설계한 그래디언트 부스티드 트리 파이프라인을 능가하며, SAP SALT 엔터프라이즈 벤치마크에서는 AutoGluon 앙상블을 평균 역순위(mean reciprocal rank, MRR) 기준 8% 능가합니다. 500B+ 행 규모의 데이터베이스로 확장 가능하며, NVIDIA의 오픈소스 GPU 네이티브 structured-data-models 라이브러리나 NVIDIA NIM을 통해 사람과 에이전트 모두가 사용할 수 있습니다.
구조화 데이터 파운데이션 모델로의 전환
파운데이션 모델은 이미 언어와 비전 분야의 플레이북을 다시 썼습니다. 얼마 전까지 프로덕션 NLP는 작업별 전용 모델을 의미했고, 각 모델은 토큰화, 표제어 추출, n-그램으로 이루어진 자체 파이프라인에 의해 공급되었습니다. LLM은 세 가지 이유로 그 스택을 대부분 쓸모없게 만들었습니다. 최고의 작업별 모델보다 정확했고, 프로덕션에 훨씬 간단하게 배포할 수 있었으며, 에이전트 응용의 새로운 시대를 열 만큼 유연했기 때문입니다.
동일한 전환이 이제 구조화 데이터에서 진행되고 있습니다. 관계형 데이터베이스는 세계에서 가장 중요한 비즈니스 의사결정을 뒷받침하지만, 이에 대한 예측 모델링은 여전히 수주에 걸친 특성 엔지니어링, 작업별 학습, 튜닝된 파이프라인을 요구합니다. 구조화 데이터 파운데이션 모델은 다음과 같은 동일한 세 가지 이유로 이를 바꿉니다:
오늘날 더 나은 정확도: 드롭인 대체재로서 이 모델들은 이미 많은 프로덕션 파이프라인, 특히 XGBoost를 능가합니다. RelBench V1 분류 작업에서 Kumo Relational은 전문가가 설계한 특성을 사용한 그래디언트 부스티드 트리를 평균 약 4 AUROC 포인트 능가합니다. SAP SALT에서는 설계된 특성을 사용한 XGBoost를 별도의 조정 없이 7 MRR 포인트, 파인튜닝 후에는 13 MRR 포인트 능가합니다. 이러한 결과는 프로덕션 XGBoost 파이프라인을 Kumo Relational로 대체할 강력한 근거가 됩니다.
단순성과 민첩성: 하나의 사전 학습된 모델이 개별 작업을 위한 별도의 파이프라인을 대체합니다. 새로운 예측은 프로젝트가 아닌 쿼리가 되므로, ML 팀은 전통적인 ML이 조직의 모든 수준에서 구축하기 너무 번거로웠던 사용 사례를 마침내 수행할 수 있습니다.
예측할 수 있는 에이전트: LLM은 에이전트가 읽고, 쓰고, 추론할 수 있게 합니다. 구조화 데이터 파운데이션 모델은 에이전트가 어떤 고객이 이탈할지와 같은 다음에 일어날 일을 예측하고 그에 따라 행동할 수 있게 합니다. Kumo Relational은 이미 에이전트가 호출하도록 설계되었으며, Predictive Query Language(PQL)는 예측 질문을 하기 위한 간단한 인터페이스를 제공합니다.
오늘 우리는 Kumo Relational (논문, 문서)을 소개합니다. 이는 이 패러다임을 관계형 데이터에 적용하는 사전 학습된 파운데이션 모델입니다. 데이터베이스에 연결하고, 예측할 내용을 기술하면, 단일 순전파로 예측을 얻을 수 있습니다. 학습이 필요하지 않습니다.
Kumo Relational의 작동 방식
구조화 데이터를 위한 대부분의 파운데이션 모델은 단일 플랫 테이블에서 작동합니다. 그러나 실제 데이터는 관계형 데이터베이스에 존재합니다. 즉, 사용자가 주문에 연결되고 주문이 제품에 연결되며, 모든 것이 시간에 따라 변화합니다. 이러한 관계를 수동 집계를 통해 하나의 행으로 평탄화하면(예:"최근 30일간의 평균 주문 금액") 세밀한 구조적 신호가 손실되고 상당한 인적 노력이 필요합니다.
Kumo Relational은 데이터베이스에서 직접 작동하며, 그 테이블, 외래 키, 타임스탬프를 존중하는 관계형 파운데이션 모델 입니다. 실제 데이터셋을 반영한 합성 관계형 데이터로 한 번 사전 학습되며, 추론 시점에 최대 10,000개의 컨텍스트 사례를 읽어들이는 in-context learning추론 시점에 최대 10,000개의 컨텍스트 예시를 읽어들입니다. 각 예시는 특정 시점의 엔티티 주변 로컬 서브그래프를 해당 정답 타겟과 짝지으며(예:, "이 사용자는 이탈했습니다" 또는 "이 아이템은 142개 판매되었습니다").
![NVIDIA Kumo Relational 시스템 개요: (a) 데이터베이스 통합, (b) 자연어를 예측 쿼리로 변환하는 프롬프팅 인터페이스, (c) 테넌트 전반에 걸쳐 수평적으로 확장되는 NVIDIA Kumo Relational 모델에 공급되는 자동 컨텍스트 생성.]
그림 1. Kumo Relational 시스템 개요. 데이터베이스를 연결하고 예측 쿼리를 지정하면 나머지는 컨텍스트 생성부터 모델 추론까지 Kumo Relational이 처리합니다.
예측을 수행하기 위해 Kumo Relational은 세 가지 작업을 해야 합니다: (1) 각 테이블 내부의 값들을 이해하고, (2) 테이블 간에 레코드를 연관시키며, (3) 알려진 타깃을 가진 컨텍스트 예시들을 예측 대상 엔티티와 연관시키는 것입니다. 작동 방식은 다음과 같습니다:
![Kumo Relational 아키텍처: (a) task, users, orders, items 테이블이 있는 컨텍스트 입력; (b) 컨텍스트 타깃이 주입된 테이블 내부의 열 및 행 어텐션; (c) 테이블 간 그래프 어텐션 및 교차 샘플 어텐션.]
그림 2. Kumo Relational 아키텍처: (a) 컨텍스트 입력, (b) 테이블 내부 추론, (c) 테이블 간 추론.
자동 컨텍스트 생성: 태스크는 Predictive Query Language (PQL)로 작성되는데, 이는 무엇을 예측할지 선언하는 선언적 인터페이스로, 예측 방법을 명시하지 않습니다. 시간 관련 태스크의 경우, Kumo Relational은 과거 데이터베이스 상태를 재생합니다: 앵커 타임스탬프까지의 엔티티 중심 서브그래프를 샘플링하고 해당 타임스탬프 이후의 이벤트로부터 각 타깃을 계산하되, 모델에는 그 이전의 데이터만 제공합니다. 이는 데이터 누출을 방지합니다.
테이블 내부 추론: 경량 네트워크가 각 테이블을 독립적으로 처리하며, 열 어텐션(열 내부의 값들을 연관시킴)과 행 어텐션(행 내부의 특징들을 연관시킴)을 번갈아 수행합니다. 모델은 현재 예측에 중요한 열과 행을 학습하고 잡음이 전파되기 전에 걸러냅니다.
테이블 간 추론: 더 큰 네트워크가 기본 키/외래 키 관계에 대한 그래프 어텐션을 통해 행 임베딩을 관계형 구조 전반에 분산시키며, 컨텍스트 예시들에 대한 교차 샘플 어텐션을 교차로 수행합니다. 이 단계에서 관계형 추론이 이루어지는데, 예를 들어 사용자의 프로필을 해당 사용자의 거래 기록과 연결하는 작업이 여기에 해당합니다. 이 단계는 모든 테이블의 모든 셀이 아닌 행 임베딩을 대상으로 작동하기 때문에, 이 설계는 2차 비용을 피하고 대규모 컨텍스트와 더 깊은 서브그래프로 확장할 수 있습니다.
Kumo Relational의 구축 과정
Kumo Relational은 다양한 예측 쿼리를 반영하도록 시뮬레이션된 완전히 합성된 관계형 데이터로 사전 학습됩니다. 사전 학습은 단일 테이블에서 점점 더 복잡한 관계형 구조로 진행되는 단계 방식입니다.
사전 학습에 필요한 다양한 관계형 데이터베이스는 공개된 경우가 드물기 때문에 합성 데이터가 이 격차를 메웁니다. Kumo Relational의 생성기는 단일 테이블 데이터 생성기를 완전한 관계형 데이터베이스로 확장한 PluRel (Kothapalli et al., ICML 2026)의 접근 방식을 기반으로 합니다. Kumo 팀의 구성원들이 PluRel 개발에 참여했고 원 논문의 공동 저자이기도 합니다. PluRel은 세 단계로 각 데이터베이스를 생성합니다: 스키마, 실제 데이터에서처럼 군집을 이루는 행들 간의 외래 키 연결, 그리고 시간적 추세와 테이블 간 의존성을 포함하는 구조적 인과 모델(Structural Causal Models)로부터의 열 값입니다. 생성이 경량이기 때문에 사전 학습 데이터는 사실상 무제한이며, PluRel 논문은 합성 데이터베이스가 추가됨에 따라 사전 학습 손실이 멱법칙을 따르고, 그 향상이 실제 데이터베이스로 이어짐을 보여줍니다.
이러한 사전 학습을 통해 모델은 고정된 집계에 의존하는 대신 테이블 간에 정보를 필터링하고, 상관시키고, 집계하는 방법을 학습합니다. 최대 정확도가 중요한 경우, Kumo Relational은 특정 데이터셋과 태스크에 대해 미세 조정될 수도 있습니다.
성능
이 논문에서 우리는 RelBench V1과 V2, SAP SALT, 그리고 4DBInfer의 15개 관계형 데이터베이스에 걸친 41개 벤치마크에서 Kumo Relational을 평가했으며, 전자상거래, 의료, 기업, 소셜, 학술 도메인을 포괄합니다. 이 데이터셋들은 사전 학습에서 전혀 보지 못한 것들입니다. Kumo Relational은 관계형 딥러닝 모델과 전문가가 설계한 테이블형 앙상블을 포함하여 분류와 회귀 모두에서 가장 강력한 지도 학습 모델들을 능가합니다. RelArena-α 리더보드(RelBench V1에서 관계형 모델과 시스템을 비교)에서 Kumo Relational은 추가 설정 없이도 정확도-효율성 파레토 경계에 위치합니다:
![RelArena-α 리더보드 산점도: 태스크 전반의 상대적 정확도를 Elo로 표시(y축), 1,000 샘플당 중앙 추론 시간(x축, 로그 스케일). Kumo Relational은 약 17초, Elo 1,842 지점의 파레토 경계에 위치합니다. 최고 점수 항목인 rt-plurel은 약 7,300초에 걸쳐 Elo 1,878에 도달하며, 이는 약 430배 느립니다. 다른 모든 파운데이션 모델, 피처 엔지니어링 시스템, 지도 학습 모델은 Kumo Relational보다 점수가 낮고 실행 속도도 느립니다.]
그림 3. RelArena-α 리더보드: 태스크 전반의 Elo 대 1,000 샘플당 중앙 추론 시간(로그 스케일). Kumo Relational은 유사한 정확도에서 최고 점수 항목보다 약 430배 빠릅니다.
이 논문은 또한 SAP SALT 엔터프라이즈 벤치마크에서 Kumo Relational이 대규모 AutoGluon 앙상블을 평균 역수 순위(MRR) 기준 8% 앞서며, 최근의 테이블형 기반 모델보다 약 25% 앞선다고 보고하고 있으며, 파인튜닝을 적용하면 AutoGluon에 대한 리드가 16%로 확대된다고 밝혔습니다. 또한 어려운 조건에서도 좋은 성능을 유지합니다. 훈련 데이터의 0.2%만을 컨텍스트로 사용해도 우수한 성능을 보이고, 외래 키 링크의 최대 75%가 제거되어도 안정성을 유지하며, 많은 노이즈가 있는 열이 추가되어도 거의 성능 저하가 없습니다.
제한 사항
Kumo Relational은 시간에 따른 사용자 행동과 같이 의미 있는 관계와 시간적 역학을 지닌 데이터에서 가장 좋은 성능을 냅니다. 매우 큰 학습 세트를 사용하는 작업에서는 여전히 작업별 지도 학습 모델이 인컨텍스트 예측보다 우세할 수 있으며, 우리 벤치마크에서 인컨텍스트 예측은 최대 10,000개의 컨텍스트 예제만 사용했습니다. 파운데이션 모델의 파인튜닝은 바로 이런 경우를 위해 설계되었습니다. 또한 예측 신호는 제한된 수의 홉 안에서 도달 가능해야 하므로, 몇 개의 관련 테이블에 대한 집중된 쿼리로 시작하고 필요에 따라 그래프를 확장하십시오.
데모
Kumo Relational은 데이터베이스 위에서 네이티브로 in-context learning을 수행합니다: 메모리 내에서, 데이터베이스 및 웨어하우스 커넥터를 통해, 또는 메모리 매핑 I/O를 통해 최대 초당 5 GB 속도로 500B+ 행을 처리하는 커스텀 그래프 엔진을 통해서도 가능합니다. 이는 NVIDIA가 새로 출시한 GPU 네이티브 구조화 데이터 모델 라이브러리에서 제공되며, 우리 자매 모델을 구동하는 것과 동일한 오픈소스 라이브러리입니다. Kumo Tabular. 이 라이브러리는 처음 사용할 때 Hugging Face Hub에서 가중치를 다운로드하므로, GPU가 지원되는 노트북에서 모델을 로드하고 바로 예측할 수 있습니다. 아래 코드는 컨텍스트 예시, 예측 엔티티 및 관련 테이블을 모델에 전달합니다:
# pip install structured-data-models
import sdm
model = sdm.models.KumoRelational(device="cuda")
pred = model(
# In-context training table (fkeys/timestamps/targets):
x_context=...,
y_context=...,
# Prediction examples (fkeys/timestamps):
x_query=...,
# Multi-table information for context/prediction entities:
related_context_tables=...,
related_query_tables=...,
)
라이브러리의 관계형 예제 전체 RelBench 및 SAP SALT 파이프라인과 각 엔터티의 관련 테이블을 샘플링하는 방법에 대해서는.
대신 모델을 별도의 서비스로 실행하려면 NVIDIA NIM으로 배포하고 오픈소스 structured-data-models-client 노트북에서 이를 수행합니다. PQL로 예측을 작성하면 클라이언트가 컨텍스트 예제와 관련 테이블을 수집한 후 요청을 전송합니다:
# pip install 'structured-data-models-client[relational]'
import sdm_client
client = sdm_client.SDMClient(url="http://localhost:8001") # NIM URL
query = sdm_client.PredictiveQuery(
# Prediction task in Predictive Query Language (PQL):
"PREDICT COUNT(orders.*, 0, 30, days) FOR EACH users.user_id",
# Multi-table data as pandas DataFrames (keys/links inferred):
{"users": ..., "orders": ...},
)
pred = client.predict(
# Context examples and related tables for the entities to predict:
query.materialize(indices=[1, 2, 3]),
model=sdm_client.KumoRelational(),
)
클라이언트의 예제 노트북 로컬 NIM 및 Databricks에 대한 엔드투엔드 실행을 위해 사용할 수 있습니다.
NVIDIA Kumo Relational으로 빌드 시작하기
NVIDIA Kumo Relational이 오늘 출시되었습니다. 다음 글을 읽어보세요 연구 논문, 다음을 탐색하세요 빠른 시작 노트북, 또는 직접 여러분의 데이터로 예측을 시작하세요. 코드는 Apache 2.0 라이선스로, 모델 가중치는 OpenMDW License Agreement 버전 1.1에 따라 공개되었습니다. NVIDIA는 신뢰할 수 있는 AI(Trustworthy AI)가 공동의 책임이라고 믿으며, 다양한 AI 애플리케이션의 개발을 지원하기 위한 정책과 관행을 수립해 왔습니다. 당사의 서비스 약관에 따라 다운로드하거나 사용할 경우, 개발자는 지원 모델 팀과 협력하여 이 모델이 관련 산업 및 사용 사례의 요구 사항을 충족하고 예상치 못한 제품 오용 문제를 해결하는지 확인해야 합니다. 모델 품질, 위험, 보안 취약점 또는 NVIDIA AI 관련 우려 사항은 여기.
- 논문: https://arxiv.org/abs/2604.12596
- 문서: https://docs.nvidia.com/sdgm/rfm/overview
- 코드: https://github.com/NVIDIA/structured-data-models
- PyPI: https://pypi.org/project/structured-data-models/
- 클라이언트 코드: https://github.com/NVIDIA/structured-data-models-client
- 클라이언트 PyPI: https://pypi.org/project/structured-data-models-client/
- 가중치: https://huggingface.co/nvidia/Kumo-Relational
- 퀵스타트 노트북: https://github.com/NVIDIA/structured-data-models-client/blob/main/examples/local/relational.ipynb
- 관련 연구: Predictive Query Language (PQL), PluRel, Kumo Tabular
감사의 글
소중한 지원을 해주신 Kumo 팀 전체에 감사드립니다. Josh Przybylko, Adi Wadaskar, Hema Raghavan, Manush Murali, Raja Rao DV, Keti Jovanovska, Zack Drach, Vanja Josifovski, Myungwhan Kim, Blaž Stojanovič, Siyang Xie, Alan Krumholz, Effy Fang, Abdullah Al-chihabi, Disha Dubey, Devan Johnson, Joseph Oliveira, Angela Liu, Miha Pelko, Vedaant Jain, Sally Liu, Aleksandar S. Sokolovski, Alex Porter, Ramona Bendias 님께 특별히 감사를 전합니다.