跳到正文
热点事件观察中

Databricks 推 OpenSharing 流式读取替代文件订阅

2 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

Databricks 发布 OpenSharing 实现指南第二部分,演示接收方如何通过挂载共享目录,用 Structured Streaming 直接增量读取提供方的共享表,替代接收定时导出文件的方式。示例中第二次运行只写入新增的 200 行,而非全部 1200 行,checkpoint 记录了上次读取的版本;需要处理插入、更新和删除事件的下游,可改读共享表的 Change Data Feed。 Databricks 称,OpenSharing 是基于 Delta Lake、Iceberg 等开放表格式的开放协议,可直接原地读取客户维护的表,并借助表的变更数据流只拉取新增、删除和更新记录;读取不复制数据、不占用客户系统算力,客户还可通过 Databricks 系统表审计访问记录。这些是 Databricks 对协议效果的说明。

AI 根据报道生成 · 1 天前更新

事件进展

2 个进展

  1. 11月7日 06:13 · 1 篇报道
    Databricks 教程:用 OpenSharing 以流式读取替代文件订阅(实现篇)
    Databricks:Blog:Databricks 教程:用 OpenSharing 以流式读取替代文件订阅(实现篇)
  2. 11月7日 06:10 · 1 篇报道
    Databricks发布OpenSharing协议原理详解
    Databricks:Blog:Databricks 解析:为何要用 OpenSharing 取代文件与 API 数据接入

报道时间线

沿着报道,了解事件的不同侧面。

11月7日
  1. Databricks:Blog
    Databricks 教程:用 OpenSharing 以流式读取替代文件订阅(实现篇)

    Databricks 发布 OpenSharing 实现指南第二部分,演示接收方如何通过挂载共享目录,用 Structured Streaming 直接增量读取提供方的共享表,而非接收定时导出的文件。示例中第二次运行仅写入新增的 200 行而非全部 1200 行,checkpoint 记录了上次读取的版本。需要插入、更新和删除事件的下游可改读共享表的 Change Data Feed。

  2. Databricks:Blog
    Databricks 解析:为何要用 OpenSharing 取代文件与 API 数据接入

    Databricks 发文解释为何应以 OpenSharing 取代 SFTP 文件和 API 拉取等传统客户数据接入方式。OpenSharing 是基于 Delta Lake、Iceberg 等开放表格式的开放协议,可直接原地读取客户维护的表,并借助表的变更数据流只拉取新增、删除和更新记录。读取不复制数据、不占用客户系统算力,客户还可通过 Databricks 系统表审计访问记录。

本事件热度走势

可比范围当前
4
可比范围峰值
1011月7日 08:00
近 24 小时变化
-49%

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。