天天看點

Debezium系列之:實作增量快照incremental技術的詳細步驟一、Debezium增量快照技術

Debezium系列之:實作增量快照incremental技術的詳細步驟

  • 一、Debezium增量快照技術
  • 二、增量快照過程
  • 三、建立信号表
  • 四、增加增量快照屬性
  • 五、修改快照資料事件類型
  • 六、完整connector配置
  • 七、激活增量快照
  • 八、增量快照參數詳解
  • 九、消費topic檢視資料
  • 十、再次觸發增量快照
  • 十一、增量快照增加條件篩選資料

一、Debezium增量快照技術

  • 為了提供管理快照的靈活性,Debezium 包括一個補充快照機制,稱為增量快照。增量快照依賴 Debezium 機制将信号發送到 Debezium 連接配接器。
  • 在增量快照中,Debezium 不是像在初始快照中那樣一次捕獲資料庫的完整狀态,而是在一系列可配置的塊中分階段捕獲每個表。您可以指定希望快照捕獲的表以及每個塊的大小。塊大小決定了在對資料庫執行每次提取操作期間快照收集的行數。增量快照的預設塊大小為 1 KB。
  • 随着增量快照的進行,Debezium 使用水印來跟蹤其進度,維護它捕獲的每個表行的記錄。與标準的初始快照過程相比,這種分階段的資料捕獲方法具有以下優勢࿱

繼續閱讀