// AI 新闻 · 2026-11-05 · Databricks Blog
Apache Spark 4.3 在 Databricks Runtime 19 中上线
Databricks 在 Databricks Runtime 19 中推出 Apache Spark 4.3 版本,新增状态流处理能力,支持毫秒级延迟的实时流式计算。该版本通过引入 Real-Time Mode,使开发者可在熟悉的 Structured Streaming API 框架下实现状态化处理,包括流式聚合、去重和自定义状态操作。
原文发布 2026-11-05 08:00(北京时间)来源 Databricks Blog自动整理 · 已核对原文
01摘要
Spark 4.3 实现了三个典型状态工作负载的 P99 端到端延迟低于 150 毫秒,涵盖去重、窗口聚合与自定义状态处理。状态管理基于 Spark 原生状态存储和检查点机制,无需额外引擎即可支持连续数据流。新功能还包含 SCD Type 2 自动 CDC、Project Feather 优化小数据查询性能、增强 Spark Connect 和 SQL 的表达能力,以及更高效的远程连接与数据处理。
由开源模型根据原文自动整理,经数字/专名逐项核对(必须在原文中出现),以原文为准。
02要点
- Spark 4.3 引入状态化实时流处理,支持毫秒级延迟的流式聚合与去重操作。
- 在三个典型工作负载中,P99 端到端延迟低于 150 毫秒,基于 Structured Streaming API 实现。
- 新增 SCD Type 2 自动 CDC 功能,通过 Python、SQL 和 Spark Connect 跟踪记录变更历史。
- 优化小数据查询性能,提升 Spark Connect、Python 和 SQL 的开发与调试效率。
03原文出处
Introducing Apache Spark® 4.3 - Now available in Databricks Runtime 19
Databricks Blog · 发布于 2026-11-05 08:00(北京时间) · 上方为原标题
05相关新闻
出自智图 AI 新闻:从 1100 多个官方与媒体信源采集。摘要只转述原文内容,详情请看原文。 2026-11-05 全部新闻 · 按日期归档 · 全部 AI 新闻 · 今日