Databricks 发布表格基础模型运行指南,对比五家模型与微调流程
Databricks Publishes Tabular Foundation Model Guide for AI Runtime
Databricks 于 2026 年 11 月 16 日发布技术指南,介绍如何在 AI Runtime 上运行表格基础模型,并配套公开仓库用于对比 TabPFN、TabFM、TabICL、Nori 和 KumoTabular 五家模型及测试微调流程。指南指出这类模型在零样本推理时把带标签的行作为上下文,无需更新参数即可预测,但 GPU 显存随行数和特征数增长,单次预测成本高于 CPU 上的 XGBoost,节省的主要是工程与维护时间。许可证方面,TabICLv2、Mitra v2 和 KumoTabular 可商用,TabFM 与 TabPFNv3.5 权重为非商用。
正文 · AI 翻译
Databricks 于 2026 年 11 月 16 日发布了一份技术指南,介绍如何在 AI Runtime 上运行表格基础模型,并配套提供了一个公开仓库,用于对比五家模型提供商并测试微调工作流。
该公开解决方案加速器为 TabPFN、TabFM、TabICL、Nori 和 KumoTabular 提供了 notebook 和共享测试框架。其目标是一项持续的企业工作负载:为信用风险、客户流失、需求预测和预测性维护所用的表格生成预测,而传统开发方式可能要为每个任务单独构建训练和再训练流水线。
表格基础模型(TFM)则不同,它们已在数百万个多样化的合成数据集上完成预训练。在零样本推理中,带标签的行成为待预测行的上下文;transformer 注意力将新行与这些示例关联起来,并在一次前向传播中返回预测结果,无需更新参数。对于希望在专有数据集上更新预训练权重的团队,微调仍是一个可选方案。
架构、GPU 成本与许可
专用分词器将数值、类别和布尔特征映射到共享表示中。TabPFNv2 在行内和列间交替使用注意力来学习交互关系,但随着样本和特征数量增加,其计算成本会迅速上升。
TabICL 的研究论文采用了不同的路径:先通过列注意力再通过行注意力构建固定维度的行嵌入,然后进行数据集级的上下文学习。其作者报告称,该方法可处理多达 500,000 个样本和 500 个特征,在其分类基准评估中与 TabPFNv2 相当,运行速度最高可达后者的 10 倍,并在 53 个样本数超过 10,000 的数据集上同时超越 TabPFNv2 和 CatBoost。所评估的版本仅限于分类任务,而基准中经留出集调优的单一模型并未体现交叉验证集成可能带来的增益。
即使采用行压缩,内存仍是运行层面的制约因素。由于上下文学习在每次预测时都要提供训练集,GPU 显存需求会随行数和特征数增长。Databricks 建议在组织自有数据上测试准确率、推理延迟、内存使用和成本,并表示 GPU 推理的单次预测成本高于在 CPU 上运行 XGBoost。潜在的节省在于工程和维护时间;持续的开支则是加速计算。
许可是另一道部署筛选条件。该指南将 TabICLv2(BSD 3-Clause)、Mitra v2(Apache-2.0)和 KumoTabular(OpenMDW-1.1)归类为商业上宽松的许可。TabFM 和 TabPFNv3.5 的权重被列为非商用,商业使用需与其创建者达成协议。该仓库还单独区分了 TabPFN 的商业托管 API 与其非商用权重。
共享评估与生产部署
该参考实现为模型对比提供了共同基础。所有受支持的实现都读取相同的合成零售和消费品数据集,使用完全相同的训练集和测试集划分,并将通用指标和 scikit-learn 基线记录到同一张结果表中。示例涵盖分类、回归、离群点检测和基于滞后的预测(在单个模型支持这些任务的范围内)。
计算需求各不相同。自托管的 TabFM、TabICL、Nori 和 KumoTabular 可以在无服务器 CPU 上运行,但该仓库建议使用 GPU 以获得实际性能。其 TabPFN 示例调用托管 API,对此 CPU 已足够;而一个 TabICL 示例则允许 CPU 流水线将推理卸载到专用的 GPU 服务端点。
AI Runtime 早于该指南推出:Databricks 于 2026 年 3 月 19 日以公开预览形式推出它,作为用于分布式 GPU 训练的无服务器栈。Databricks 表示,其按需 H100 GPU 可支持 TabPFN-3 处理多达 100 万行、200 个特征的数据。notebook、Lakeflow Jobs、MLflow 实验跟踪和 GPU 利用率可观测性与原生 Docker 支持以及通过 Databricks CLI 的远程 SSH 并存。
一个 KumoTabular 微调演示在 notebook 中展示 GPU 使用情况和 MLflow 指标,并将生成的模型注册到 Unity Catalog。对于生产环境,该指南介绍了高吞吐量批处理流水线,或通过 Model Serving 提供自动扩缩容的实时 REST 端点,并由 Unity Catalog 管理模型版本和治理。
最终结果是形成了一条可重复的路径,用于测试 TFM 能否在不将数据迁移到单独 GPU 工具的情况下减少每个任务的机器学习工作量。商业论证仍取决于该仓库无法普遍提供的测量结果:在组织自有表格上的准确率、可用的许可条款,以及更低的工程开销能否抵消 GPU 支持预测的持续成本。