Skip to content
简体中文

切换主题

// AI 新闻 · 2026-11-09 · Databricks Blog

UCDataset在AI Runtime中Beta发布,实现Unity Catalog表直接流式供GPU训练

Databricks在AI Runtime中推出UCDataset,该功能作为Beta版本,可将Unity Catalog中的表格直接流式传输至PyTorch分布式训练任务的每个GPU,无需数据导出或自定义加载器代码。该方案通过原生集成实现多GPU数据分片,避免了传统方法中的数据复制、延迟和治理缺失问题。

原文发布 2026-11-09 23:00(北京时间)来源 Databricks Blog自动整理 · 已核对原文

01摘要

在模拟生产负载测试中,与从Parquet文件加载数据相比,UCDataset将训练时间缩短了10倍。其核心优势在于直接读取云存储中的原始表文件,自动均衡分配匹配行至各GPU,支持实时过滤和新增数据自动同步,并在训练过程中保持Unity Catalog的完整权限控制。

由开源模型根据原文自动整理,经数字/专名逐项核对(必须在原文中出现),以原文为准。

02要点

03原文出处

Accelerate GPU training on Unity Catalog tables with UCDataset

Databricks Blog · 发布于 2026-11-09 23:00(北京时间) · 上方为原标题

05相关新闻

出自智图 AI 新闻:从 1100 多个官方与媒体信源采集。摘要只转述原文内容,详情请看原文。 2026-11-09 全部新闻 · 按日期归档 · 全部 AI 新闻 · 今日

数据更新于:AI 新闻(北京时间)