Debezium系列之:實作增量快照incremental技術的詳細步驟
- 一、Debezium增量快照技術
- 二、增量快照過程
- 三、建立信号表
- 四、增加增量快照屬性
- 五、修改快照資料事件類型
- 六、完整connector配置
- 七、激活增量快照
- 八、增量快照參數詳解
- 九、消費topic檢視資料
- 十、再次觸發增量快照
- 十一、增量快照增加條件篩選資料
一、Debezium增量快照技術
- 為了提供管理快照的靈活性,Debezium 包括一個補充快照機制,稱為增量快照。增量快照依賴 Debezium 機制将信号發送到 Debezium 連接配接器。
- 在增量快照中,Debezium 不是像在初始快照中那樣一次捕獲資料庫的完整狀态,而是在一系列可配置的塊中分階段捕獲每個表。您可以指定希望快照捕獲的表以及每個塊的大小。塊大小決定了在對資料庫執行每次提取操作期間快照收集的行數。增量快照的預設塊大小為 1 KB。
- 随着增量快照的進行,Debezium 使用水印來跟蹤其進度,維護它捕獲的每個表行的記錄。與标準的初始快照過程相比,這種分階段的資料捕獲方法具有以下優勢