TL;DR
NVIDIA Kumo Relational是一种预训练的关系基础模型，可直接在企业数据库上做出预测。给定预测查询后，它会收集历史示例作为上下文示例，并在单次前向传递中预测流失、需求或欺诈等结果。它无需特定任务训练、特征工程或表扁平化。Kumo Relational是首个在常见关系基准上超越监督机器学习的少样本基础模型。在15个数据库上的41个任务中，它击败了监督关系深度学习模型和专家设计的梯度提升树流水线，在SAP SALT企业基准上，其平均倒数排名（MRR）超过AutoGluon集成8%。它可扩展到拥有5000亿+行的数据库，并通过NVIDIA的开源、GPU原生结构化数据模型和kumo-engine库，或以NVIDIA NIM的形式，为人类和代理提供服务。
论文：https://arxiv.org/abs/2604.12596
模型代码：https://github.com/NVIDIA/structured-data-models
模型权重：https://huggingface.co/nvidia/Kumo-Relational
客户端代码：https://github.com/NVIDIA/structured-data-models-client
NIM文档：https://docs.nvidia.com/sdgm/rfm/overview
向结构化数据基础模型的转变
基础模型已经改写了语言和视觉领域的规则。不久前，生产级NLP意味着每个任务都有专用模型，每个模型都由自己的分词、词形还原和n-gram流水线提供支持。大语言模型在很大程度上使该技术栈过时，原因有三：它们比最好的任务特定模型更准确，投入生产简单得多，并且足够灵活，开启了智能体应用的新时代。
同样的转变现在正在结构化数据领域展开。关系数据库支撑着世界上最关键的业务决策，但在其上的预测建模仍然需要数周的特征工程、任务特定训练和调优流水线。结构化数据基础模型因同样的三个原因改变了这一点：
当今更好的准确性：作为即插即用的替代方案，这些模型已经击败了许多生产流水线，尤其是XGBoost。在RelBench V1分类任务上，Kumo Relational在平均AUROC上比基于专家工程特征的梯度提升树高出近4个点。在SAP SALT上，它开箱即用就比基于工程特征的XGBoost高出7个MRR点，微调后高出13个MRR点。这些结果有力地支持用Kumo Relational替换生产XGBoost流水线。
简单性和敏捷性：一个预训练模型取代了针对各个任务的单独流水线。新的预测变成了查询而不是项目，因此机器学习团队终于可以承接传统机器学习因过于费力而无法在组织各个层级构建的用例。
能够预测的智能体：大语言模型让智能体能够阅读、写作和推理。结构化数据基础模型让它们能够预测接下来会发生什么，例如哪个客户会流失，并据此采取行动。Kumo Relational已经构建为可被智能体调用，其预测查询语言（PQL）为它们提供了提出预测问题的简单接口。
今天，我们推出Kumo Relational（论文、GitHub、HuggingFace），一种预训练基础模型，将这一范式带到关系数据。连接数据库，描述要预测的内容，即可在单次前向传递中获得预测。无需训练。
Kumo Relational的工作原理
大多数结构化数据基础模型在单个扁平表上运行。现实世界的数据则存在于关系数据库中：用户连接到订单，订单连接到产品，所有这些都随时间演变。通过手动聚合（例如，“过去30天的平均订单价值”）将这些关系扁平化为一行，会丢失细粒度的结构信号，并需要大量人工投入。
Kumo Relational 是一种关系基础模型，直接在数据库上运行，尊重其表、外键和时间戳。它在一次预训练中使用反映真实世界数据集的合成关系数据，并通过在推理时对上下文示例进行推理的上下文学习来适应每个新任务。每个示例将某一时间点某个实体周围的局部子图与其真实目标配对（例如，“该用户流失了”或“该商品售出 142 件”）。
图 1. Kumo Relational 系统概览。连接数据库，指定预测查询，Kumo Relational 处理其余一切，从上下文生成到模型推理。
要进行预测，Kumo Relational 需要完成三件事：（1）理解每个表中的值，（2）关联跨表的记录，以及（3）将带有已知目标的上下文示例与正在预测的实体关联起来。其工作原理如下：
图 2. Kumo Relational 架构：（a）上下文输入，（b）表内推理，（c）跨表推理。
自动上下文生成：任务用预测查询语言（PQL）编写，这是一种声明式接口，你只需说明要预测什么，而无需说明如何预测。对于时序任务，Kumo Relational 会重放历史数据库状态：它在锚点时间戳之前采样以实体为中心的子图，并从该时间戳之后的事件中计算每个目标，同时只向模型提供该时间戳之前的数据。这可防止数据泄漏。
表内推理：一个轻量级网络通过列注意力（关联列内的值）和行注意力（关联行内的特征）独立处理每个表。模型学习哪些列和行对当前预测重要，并在噪声传播之前将其过滤掉。
跨表推理：一个更大的网络通过主键/外键关系上的图注意力将行嵌入分布到关系结构中，随后进行跨样本注意力以关联上下文示例。这就是关系推理发生的地方，例如将用户的个人资料与其交易历史关联起来。由于此阶段在行嵌入上工作，而非每个表中的每个单元格，该设计避免了二次成本，并能扩展到大型上下文和更深的子图。
Kumo Relational 是如何构建的
Kumo Relational 在完全合成的关系数据上进行预训练，这些数据被模拟以反映具有多样化预测查询的真实世界关系数据库。预训练分阶段进行，从单表到日益复杂的关系结构。
预训练所需的多样化关系数据库很少公开，因此合成数据填补了这一空白。Kumo Relational 的生成器建立在 PluRel（Kothapalli 等人，ICML 2026）的方法之上，该方法将单表数据生成器扩展到完整的关系数据库。PluRel 分三个阶段生成每个数据库：模式、像真实数据中那样聚类的行之间的外键链接，以及来自具有时间趋势和跨表依赖的结构因果模型的列值。生成过程轻量，因此预训练数据实际上是无限的。随着合成数据库的增加，预训练损失遵循幂律，且收益可迁移到真实数据库。
通过这种预训练，模型学会在表之间过滤、关联和聚合信息，而不是依赖固定的聚合。
性能
在论文中，我们在来自 RelBench V1 和 V2、SAP SALT 以及 4DBInfer 的 15 个关系数据库的 41 个基准上评估了 Kumo Relational，涵盖电子商务、医疗、企业、社交和学术领域。这些数据集均未在预训练中出现。Kumo Relational 在分类和回归方面均优于最强的监督模型，包括关系深度学习模型和专家工程的表格集成模型。它是 RelBench 排行榜上表现最佳的上下文学习模型。在 RelArena-α 上，它位于准确率-效率帕累托前沿：
图 3. 截至 2026-09-21 的 RelArena-α 排行榜：各任务的 Elo 分数与总任务运行时间（对数刻度）的对比。Kumo Relational 在相似准确度下比 rtl-plurel 快约 430 倍。
在 SAP SALT 企业基准测试中，Kumo Relational 的平均倒数排名（MRR）比大型 AutoGluon 集成高出 8%，微调后其领先优势扩大至 16%。它在严苛条件下也表现出色：仅使用 0.2% 的训练数据作为上下文时仍表现良好，在最多 75% 的外键链接被移除时保持稳定，并且在添加噪声列时几乎没有性能下降。
局限性
Kumo Relational 在具有有意义关系和时间动态的数据上表现最佳，例如随时间变化的用户行为。在训练数据量非常大的任务上，特定任务的监督模型可能仍会略微优于上下文学习预测。预测信号必须在有限跳数内可达。
演示
Kumo Relational 可原生在数据库上运行上下文学习：在内存中、通过数据库和数据仓库连接器，或通过 kumo-engine（借助内存映射 I/O 以最高 5 GB/s 的速度处理 5000 亿行以上数据）。该模型本身可在 NVIDIA 新发布的 GPU 原生 structured-data-models 库中使用，该开源库也支持我们的姊妹模型 Kumo Tabular。该库首次使用时会从 Hugging Face Hub 下载权重，因此您可以在支持 GPU 的笔记本中加载模型并直接进行预测。该接口旨在通过传递额外的相关多表上下文和查询信息，自然地将表格基础模型扩展到关系信号：
import sdm # pip install structured-data-models
model = sdm.models.KumoRelational(device="cuda")
pred = model(
# In-context training table (fkeys/timestamps/targets):
x_context=sdm.TableTensor(...),
y_context=sdm.TableTensor(...),
# Prediction examples (fkeys/timestamps):
x_query=sdm.TableTensor(...),
# Multi-table information for context/prediction entities:
related_context_tables=sdm.RelatedTables(tables={...}),
related_query_tables=sdm.RelatedTables(tables={...}),
)请参阅该库的关系示例，了解 RelBench 和 SAP SALT 流水线。
若要将模型作为独立服务运行，请将其部署为 NVIDIA NIM，并从笔记本中将开源 structured-data-models-client 指向它。您使用 PQL 编写预测，客户端会收集上下文示例和相关表，然后发送请求：
import sdm_client # pip install 'structured-data-models-client[relational]'
client = sdm_client.SDMClient(url="http://localhost:8001") # NIM URL
query = sdm_client.PredictiveQuery(
# Prediction task in Predictive Query Language (PQL):
"PREDICT COUNT(orders.*, 0, 30, days) FOR EACH users.user_id",
# Multi-table data as pandas DataFrames (keys/links inferred):
{"users": ..., "orders": ...},
)
pred = client.predict(
# Context examples and related tables for the entities to predict:
query.materialize(indices=[1, 2, 3]),
model=sdm_client.KumoRelational(),
)请参阅客户端的示例笔记本，了解针对本地 NIM 和 Databricks 的端到端运行。
开始使用 NVIDIA Kumo Relational 进行构建
NVIDIA Kumo Relational 现已可用。阅读研究论文、探索快速入门笔记本，或开始对您自己的数据进行预测。代码以 Apache 2.0 许可证发布，模型权重以 OpenMDW 许可协议 1.1 版发布。NVIDIA 认为可信 AI 是共同责任，我们已建立政策和实践，以支持广泛的 AI 应用开发。在根据我们的服务条款下载或使用时，开发者应与其支持模型团队协作，确保该模型满足相关行业和用例的要求，并应对不可预见的产品滥用。请在此报告模型质量、风险、安全漏洞或 NVIDIA AI 相关问题。
论文：https://arxiv.org/abs/2604.12596
模型代码：https://github.com/NVIDIA/structured-data-models
模型权重：https://huggingface.co/nvidia/Kumo-Relational
客户端代码：https://github.com/NVIDIA/structured-data-models-client
NIM 文档：https://docs.nvidia.com/sdgm/rfm/overview
快速入门笔记本：https://github.com/NVIDIA/structured-data-models-client/blob/main/examples/local/relational.ipynb
相关研究方向：预测查询语言（PQL）、PluRel、Kumo Tabular、TabICLv2
致谢
我们感谢整个 Kumo 团队的宝贵支持。特别感谢 Adi Wadaskar、Hema Raghavan、Manush Murali、Zack Drach、Vanja Josifovski、Myungwhan Kim、Siyang Xie、Alan Krumholz、Effy Fang、Abdullah Al-chihabi、Disha Dubey、Devan Johnson、Joseph Oliveira、Angela Liu、Miha Pelko、Vedaant Jain、Sally Liu、Aleksandar S. Sokolovski 和 Alex Porter。