前言
今天給大家分享一個面試中經常會被問到的
拉連結清單
,我在上篇文章中提出來一個需求如果不知道的請去→數倉緩慢變化維深層講解檢視,好,廢話不多說我們直接開始。提出的問題會在末尾講解。
一、拉連結清單介紹(百度百科)
拉連結清單:維護曆史狀态,以及最新狀态資料的一種表,拉連結清單根據拉鍊粒度的不同,實際上相當于快照,隻不過做了優化,去除了一部分不變的記錄,通過拉連結清單可以很友善的還原出拉鍊時點的客戶記錄
二、拉連結清單場景
資料倉庫的資料模型設計過程中,經常會遇到這樣的需求:
- 表中的部分字段會被update,例如:使用者的位址,産品的描述資訊,品牌資訊等等;
-
需要檢視某一個時間點或者時間段的曆史快照資訊
,例如:檢視某一個産品在曆史某一時間點的狀态
檢視某一個使用者在過去某一段時間内,更新過幾次等等
-
,例如:總共有1000萬的會員,每天新增和發生變化的有10萬左右變化的比例和頻率不是很大
三、商品資料案例
需求:商品表:
列名 | 類型 | 說明 |
---|---|---|
goods_id | varchar(50) | 商品編号 |
goods_status | 商品狀态(待稽核、待售、在售、已删除) | |
createtime | 商品建立日期 | |
modifytime | 商品修改日期 |
2019年12月20日
的資料如下所示:
001 | 待稽核 | 2019-12-20 | |
002 | 待售 | ||
003 | 在售 | ||
004 | 已删除 |
商品的狀态,會随着時間推移而變化,我們需要将商品的所有變化的曆史資訊都儲存下來。如何實作呢?
方案一: 快照每一天的資料到數倉(圖解)
該方案為:
- 每一天都儲存一份全量,将所有資料同步到數倉中(
)我這裡就使用MySQL操作的
- 很多記錄都是重複儲存,沒有任何變化
12月20日(4條資料)
2019-12-18 | |||
2019-12-19 | |||
2019-12-15 |
12月21日(10條資料)
以下為12月20日快照資料 | |||
以下為12月21日快照資料 | |||
001 | 待售(從待稽核到待售) | 2019-12-21 | |
005(新商品) | |||
006(新商品) |
12月22日(18條資料)
005 | |||
006 | |||
以下為12月22日快照資料 | |||
已删除(從在售到已删除) | 2019-12-22 | ||
已删除(從待稽核到已删除) | |||
007 | |||
008 |
方案一: MySQL到,MySQL數倉代碼實作
MySQL初始化
- 在MySQL中
庫和zw
用于到商品表
原始資料層
-- 建立資料庫
create database if not exists zw;
-- 建立商品表
create table if not exists `zw`.`t_product`(
goods_id varchar(50), -- 商品編号
goods_status varchar(50), -- 商品狀态
createtime varchar(50), -- 商品建立時間
modifytime varchar(50) -- 商品修改時間
);
- 在MySQL中建立ods和dw層
模拟數倉
-- ods建立商品表
create table if not exists `zw`.`ods_t_product`(
goods_id varchar(50), -- 商品編号
goods_status varchar(50), -- 商品狀态
createtime varchar(50), -- 商品建立時間
modifytime varchar(50), -- 商品修改時間
cdat varchar(10) --模拟hive分區
)default character set = 'utf8'; ;
-- dw建立商品表
create table if not exists `zw`.`dw_t_product`(
goods_id varchar(50), -- 商品編号
goods_status varchar(50), -- 商品狀态
createtime varchar(50), -- 商品建立時間
modifytime varchar(50), -- 商品修改時間
cdat varchar(10) -- 模拟hive分區
)default character set = 'utf8'; ;
增量導入12月20号資料
- 原始資料導入12月20号資料(4條)
insert into `zw`.`t_product`(goods_id, goods_status, createtime, modifytime) values
('001', '待稽核', '2019-12-18', '2019-12-20'),
('002', '待售', '2019-12-19', '2019-12-20'),
('003', '在售', '2019-12-20', '2019-12-20'),
('004', '已删除', '2019-12-15', '2019-12-20');
注意:
由于我這裡使用的MySQL來模拟的數倉在這裡偷個懶直接使用insert into的方式導入資料,在企業中可能會使用hive來做數倉使用kettle 或者sqoop或datax等來同步資料
# 從原始資料層導入到ods 層
insert into zw.ods_t_product
select *,'20191220' from zw.t_product ;
# 從ods同步到dw層
insert into zw.dw_t_product
select * from zw.ods_t_product where cdat='20191220';
增量導入12月21資料
- 原始資料層導入12月21日資料(6條資料)
UPDATE `zw`.`t_product` SET goods_status = '待售', modifytime = '2019-12-21' WHERE goods_id = '001';
INSERT INTO `zw`.`t_product`(goods_id, goods_status, createtime, modifytime) VALUES
('005', '待稽核', '2019-12-21', '2019-12-21'),
('006', '待稽核', '2019-12-21', '2019-12-21');
- 将資料導入到ods層與dw層
# 從原始資料層導入到ods 層
insert into zw.ods_t_product
select *,'20191221' from zw.t_product ;
# 從ods同步到dw層
insert into zw.dw_t_product
select * from zw.ods_t_product where cdat='20191221';
- 檢視dw層的運作結果
select * from zw.dw_t_product where cdat='20191221';
增量導入12月22日資料
- 原始資料層導入12月22日資料(6條資料)
UPDATE `zw`.`t_product` SET goods_status = '已删除', modifytime = '2019-12-22' WHERE goods_id = '003';
UPDATE `zw`.`t_product` SET goods_status = '已删除', modifytime = '2019-12-22' WHERE goods_id = '006';
INSERT INTO `zw`.`t_product`(goods_id, goods_status, createtime, modifytime) VALUES
('007', '待稽核', '2019-12-22', '2019-12-22'),
('008', '待稽核', '2019-12-22', '2019-12-22');
# 從原始資料層導入到ods 層
insert into zw.ods_t_product
select *,'20191222' from zw.t_product ;
# 從ods同步到dw層
insert into zw.dw_t_productpeizhiwenjian
select * from zw.ods_t_product where cdat='20191222';
select * from zw.dw_t_product where cdat='20191222';
從上述案例,可以看到:
表
每天
保留一份
全量
,每次全量中會儲存
很多不變的資訊
,如果資料量很大的話,對存儲是極大的浪費
可以講表設計為
拉連結清單
,既能滿足反應資料的曆史狀态,又可以最大限度地節省存儲空間。
方案二: 使用拉連結清單儲存曆史快照(思路/圖解)
- 拉連結清單不存儲備援的資料,隻有某
,相比每次全量同步會節省存儲空間行的資料發生變化,才需要儲存下來
- 能夠查詢到曆史快照
- 額外的增加了兩列(
、dw_start_date
),為資料行的生命周期dw_end_date
12月20日商品拉連結清單的資料:
dw_start_date | dw_end_date | ||||
---|---|---|---|---|---|
9999-12-31 | |||||
2019-12-20 | |||||
12月20日的資料是全新的資料導入到dw表
- dw_start_date表示某一條資料的生命周期起始時間,即資料從該時間開始有效(即
生效日期
- dw_end_date表示某一條資料的生命周期結束時間,即資料到這一天(不包含)(即
失效日期
- dw_end_date為
,表示目前這條資料是最新的資料,資料到9999-12-31才過期9999-12-31
12月21日商品拉連結清單的資料
001(變) | |||||
005(新) |
12月21日商品拉連結清單的資料
- 拉連結清單中沒有存儲備援的資料,(
隻要資料沒有變化,無需同步
- 001編号的商品資料的狀态發生了變化(
→從待稽核
),需要将原有的dw_end_date從9999-12-31變為2019-12-21,表示待稽核狀态,在待售
有效2019/12/20(包含) - 2019/12/21(不包含)
- 001編号新的狀态重新儲存了一條記錄,dw_start_date為2019/12/21,dw_end_date為9999/12/31
- 新資料005、006、dw_start_date為2019/12/21,dw_end_date為9999/12/31
12月22日商品拉連結清單的資料
003(變) | |||||
007(新) | 待稽核 | 2019-12-22 | |||
008(新) |
12月22日商品拉連結清單的資料
- 003編号的商品資料的狀态發生了變化(
),需要将原有的 dw_end_date從9999-12-31變為2019-12-22,表示在售狀态,在2019/12/20(包含) - 2019/12/22(不包含) 有效從在售→已删除
- 003編号新的狀态重新儲存了一條記錄,dw_start_date為2019/12/22,dw_end_date為9999/12/31
- 新資料007、008、dw_start_date為2019/12/22,dw_end_date為9999/12/31
方案二: 拉連結清單快照代碼實作
操作流程:
- 在原有dw層表上,添加額外的兩列
- 隻同步當天修改的資料到ods層
- 拉連結清單算法實作
- 拉連結清單的資料為:當天最新的資料 UNION ALL 曆史資料
代碼實作:
-
zw
商品表
原始資料層
-- 建立資料庫
create database if not exists zw;
-- 建立商品表
create table if not exists `zw`.`t_product_2`(
goods_id varchar(50), -- 商品編号
goods_status varchar(50), -- 商品狀态
createtime varchar(50), -- 商品建立時間
modifytime varchar(50) -- 商品修改時間
)default character set = 'utf8';
-
模拟數倉
-- ods建立商品表
create table if not exists `zw`.`ods_t_product2`(
goods_id varchar(50), -- 商品編号
goods_status varchar(50), -- 商品狀态
createtime varchar(50), -- 商品建立時間
modifytime varchar(50), -- 商品修改時間
cdat varchar(10) -- 模拟hive分區
)default character set = 'utf8';
-- dw建立商品表
create table if not exists `zw`.`dw_t_product2`(
goods_id varchar(50), -- 商品編号
goods_status varchar(50), -- 商品狀态
createtime varchar(50), -- 商品建立時間
modifytime varchar(50), -- 商品修改時間
dw_start_date varchar(12), -- 生效日期
dw_end_date varchar(12), -- 失效時間
cdat varchar(10) -- 模拟hive分區
)default character set = 'utf8';
全量導入2019年12月20日資料
- 原始資料層導入12月20日資料(4條資料)
insert into `zw`.`t_product_2`(goods_id, goods_status, createtime, modifytime) values
('001', '待稽核', '2019-12-18', '2019-12-20'),
('002', '待售', '2019-12-19', '2019-12-20'),
('003', '在售', '2019-12-20', '2019-12-20'),
('004', '已删除', '2019-12-15', '2019-12-20');
- 将資料導入到數倉中的ods層
insert into zw.ods_t_product2
select *,'20191220' from zw.t_product_2 where modifytime >='2019-12-20'
- 将資料從ods層導入到dw層
insert into zw.dw_t_product2
select goods_id, goods_status, createtime, modifytime, modifytime,'9999-12-31', cdat from zw.ods_t_product2 where cdat='20191220'
增量導入2019年12月21日資料
UPDATE `zw`.`t_product_2` SET goods_status = '待售', modifytime = '2019-12-21' WHERE goods_id = '001';
INSERT INTO `zw`.`t_product_2`(goods_id, goods_status, createtime, modifytime) VALUES
('005', '待稽核', '2019-12-21', '2019-12-21'),
('006', '待稽核', '2019-12-21', '2019-12-21');
- 原始資料層同步到ods層
insert into zw.ods_t_product2
select *,'20191221' from zw.t_product_2 where modifytime >='2019-12-21';
- 編寫ods層到dw層重新計算 dw_end_date
注意:我這裡直接将結果的SQL語句放在這裡語句 因為需要将覆寫寫入到資料庫中我這裡就沒有寫了,但是不影響我們結果。
12月22 号的操作流程跟21 一樣我就裡就不寫了
select t1.goods_id, t1.goods_status, t1.createtime, t1.modifytime,
t1.dw_start_date,
case when (t2.goods_id is not null and t1.dw_end_date>'2019-12-21') then '2019-12-21'else t1.dw__date end as end ,
t1.cdat
from zw.dw_t_product2 t1
left join (select * from zw.ods_t_product2 where cdat='20191221')t2 on t1.goods_id=t2.goods_id
union
select goods_id, goods_status, createtime, modifytime, modifytime,'9999-12-31', cdat from zw.ods_t_product2 where cdat='20191221'
- 查詢結果