Databricks 推 OpenSharing 流式读取替代文件订阅
先了解这件事
Databricks 发布 OpenSharing 实现指南第二部分,演示接收方如何通过挂载共享目录,用 Structured Streaming 直接增量读取提供方的共享表,替代接收定时导出文件的方式。示例中第二次运行只写入新增的 200 行,而非全部 1200 行,checkpoint 记录了上次读取的版本;需要处理插入、更新和删除事件的下游,可改读共享表的 Change Data Feed。 Databricks 称,OpenSharing 是基于 Delta Lake、Iceberg 等开放表格式的开放协议,可直接原地读取客户维护的表,并借助表的变更数据流只拉取新增、删除和更新记录;读取不复制数据、不占用客户系统算力,客户还可通过 Databricks 系统表审计访问记录。这些是 Databricks 对协议效果的说明。
AI 根据报道生成 · 1 天前更新
事件进展
2 个进展
- 11月7日 06:13 · 1 篇报道Databricks 教程:用 OpenSharing 以流式读取替代文件订阅(实现篇)Databricks:Blog:Databricks 教程:用 OpenSharing 以流式读取替代文件订阅(实现篇)
- 11月7日 06:10 · 1 篇报道Databricks发布OpenSharing协议原理详解Databricks:Blog:Databricks 解析:为何要用 OpenSharing 取代文件与 API 数据接入
报道时间线
沿着报道,了解事件的不同侧面。
- Databricks:BlogDatabricks 教程:用 OpenSharing 以流式读取替代文件订阅(实现篇)
Databricks 发布 OpenSharing 实现指南第二部分,演示接收方如何通过挂载共享目录,用 Structured Streaming 直接增量读取提供方的共享表,而非接收定时导出的文件。示例中第二次运行仅写入新增的 200 行而非全部 1200 行,checkpoint 记录了上次读取的版本。需要插入、更新和删除事件的下游可改读共享表的 Change Data Feed。
- Databricks:BlogDatabricks 解析:为何要用 OpenSharing 取代文件与 API 数据接入
Databricks 发文解释为何应以 OpenSharing 取代 SFTP 文件和 API 拉取等传统客户数据接入方式。OpenSharing 是基于 Delta Lake、Iceberg 等开放表格式的开放协议,可直接原地读取客户维护的表,并借助表的变更数据流只拉取新增、删除和更新记录。读取不复制数据、不占用客户系统算力,客户还可通过 Databricks 系统表审计访问记录。
本事件热度走势
- 可比范围当前
- 4
- 可比范围峰值
- 1011月7日 08:00
- 近 24 小时变化
- -49%
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。