一、拉链表

数据仓库的数据模型设计过程中，经常会遇到这样的需求：

表中的部分字段会被update，例如：
- 用户的地址，产品的描述信息，品牌信息等等;
需要查看某一个时间点或者时间段的历史快照信息，例如：
- 查看某一个产品在历史某一时间点的状态
- 查看某一个用户在过去某一段时间内，更新过几次等等
变化的比例和频率不是很大，例如：
- 总共有1000万的会员，每天新增和发生变化的有10万左右

商品历史快照案例

需求：

有一个商品表：

列名	类型	说明
goods_id	varchar(50)	商品编号
goods_status	varchar(50)	商品状态（待审核、待售、在售、已删除）
createtime	varchar(50)	商品创建日期
modifytime	varchar(50)	商品修改日期

2019年12月20日的数据如下所示：

goods_id	goods_status	createtime	modifytime
001	待审核	2019-12-20	2019-12-20
002	待售	2019-12-20	2019-12-20
003	在售	2019-12-20	2019-12-20
004	已删除	2019-12-20	2019-12-20

商品的状态，会随着时间推移而变化，我们需要将商品的所有变化的历史信息都保存下来。如何实现呢？

方案一：快照每一天的数据到数仓（冗余数据）

1、方案介绍

该方案为：

每一天都保存一份全量，将所有数据同步到数仓中
很多记录都是重复保存，没有任何变化

12月20日（4条数据）

goods_id	goods_status	createtime	modifytime
001	待审核	2019-12-18	2019-12-20
002	待售	2019-12-19	2019-12-20
003	在售	2019-12-20	2019-12-20
004	已删除	2019-12-15	2019-12-20

12月21日（10条数据）

goods_id	goods_status	createtime	modifytime
以下为12月20日快照数据
001	待审核	2019-12-18	2019-12-20
002	待售	2019-12-19	2019-12-20
003	在售	2019-12-20	2019-12-20
004	已删除	2019-12-15	2019-12-20
以下为12月21日快照数据
001	待售（从待审核到待售）	2019-12-18	2019-12-21
002	待售	2019-12-19	2019-12-20
003	在售	2019-12-20	2019-12-20
004	已删除	2019-12-15	2019-12-20
005（新商品）	待审核	2019-12-21	2019-12-21
006（新商品）	待审核	2019-12-21	2019-12-21

12月22日（18条数据）

goods_id	goods_status	createtime	modifytime
以下为12月20日快照数据
001	待审核	2019-12-18	2019-12-20
002	待售	2019-12-19	2019-12-20
003	在售	2019-12-20	2019-12-20
004	已删除	2019-12-15	2019-12-20
以下为12月21日快照数据
001	待售（从待审核到待售）	2019-12-18	2019-12-21
002	待售	2019-12-19	2019-12-20
003	在售	2019-12-20	2019-12-20
004	已删除	2019-12-15	2019-12-20
005	待审核	2019-12-21	2019-12-21
006	待审核	2019-12-21	2019-12-21
以下为12月22日快照数据
001	待售	2019-12-18	2019-12-21
002	待售	2019-12-19	2019-12-20
003	已删除（从在售到已删除）	2019-12-20	2019-12-22
004	待审核	2019-12-21	2019-12-21
005	待审核	2019-12-21	2019-12-21
006	已删除（从待审核到已删除）	2019-12-21	2019-12-22
007	待审核	2019-12-22	2019-12-22
008	待审核	2019-12-22	2019-12-22

2、MySQL到Hive数仓代码实现

MySQL&Hive初始化

1 在MySQL demo库中创建表

-- 创建数据库
CREATE DATABASE demo DEFAULT CHARACTER SET utf8 COLLATE utf8_general_ci;

-- 创建商品表
create table if not exists `demo`.`t_product`(
	goods_id varchar(50),		-- 商品编号
    goods_status varchar(50),	-- 商品状态
    createtime varchar(50),		-- 商品创建时间
    modifytime varchar(50)		-- 商品修改时间
);

2 在Hive中 demo库创建表

-- 创建表
create database if not exists `demo`;

-- 创建ods层表
create table if not exists `demo`.`ods_product`(
    goods_id string,        -- 商品编号
    goods_status string,    -- 商品状态
    createtime string,      -- 商品创建时间
    modifytime string       -- 商品修改时间
)
partitioned by (dt string)
row format delimited fields terminated by ',' stored as TEXTFILE;

-- 创建dw层表
create table if not exists `demo`.`dw_product`(
    goods_id string,        -- 商品编号
    goods_status string,    -- 商品状态
    createtime string,      -- 商品创建时间
    modifytime string       -- 商品修改时间
)
partitioned by (dt string)
row format delimited fields terminated by ',' stored as TEXTFILE;

增量导入12月20日数据

1 MySQL数据库导入12月20日数据（4条数据）

insert into `demo`.`t_product`(goods_id, goods_status, createtime, modifytime) values
('001', '待审核', '2019-12-18', '2019-12-20'),
('002', '待售', '2019-12-19', '2019-12-20'),
('003', '在售', '2019-12-20', '2019-12-20'),
('004', '已删除', '2019-12-15', '2019-12-20');

mysql图示
大数据-数据仓库：快照表、拉链表，全量表，增量表一、拉链表

2 使用Kettle将MySQL数据导出，并导入到分区HDFS位置

Kettle转换流程图
大数据-数据仓库：快照表、拉链表，全量表，增量表一、拉链表

创建Hive分区

-- 创建分区
alter table `demo`.`ods_product` add if not exists partition (dt='2019-12-20');

增加分区
大数据-数据仓库：快照表、拉链表，全量表，增量表一、拉链表
表输入
大数据-数据仓库：快照表、拉链表，全量表，增量表一、拉链表
Hadoop File output
大数据-数据仓库：快照表、拉链表，全量表，增量表一、拉链表

3 Hive中查询数据

大数据-数据仓库：快照表、拉链表，全量表，增量表一、拉链表

4 数据导入维度表

insert overwrite table `demo`.`dw_product` partition(dt='2019-12-20')
select  
    goods_id,
    goods_status,
    createtime,
    modifytime
from `demo`.`ods_product` where dt='2019-12-20';

大数据-数据仓库：快照表、拉链表，全量表，增量表一、拉链表

增量导入12月21日数据

1 MySQL数据库导入12月21日数据（6条数据）

UPDATE `demo`.`t_product` SET goods_status = '待售', modifytime = '2019-12-21' WHERE goods_id = '001';
INSERT INTO `demo`.`t_product`(goods_id, goods_status, createtime, modifytime) VALUES
('005', '待审核', '2019-12-21', '2019-12-21'),
('006', '待审核', '2019-12-21', '2019-12-21');

2 运行Kettle转换，导入2019年12月21日数据

执行kettle转换
大数据-数据仓库：快照表、拉链表，全量表，增量表一、拉链表

3 Hive查询数据

mysql数据展示
大数据-数据仓库：快照表、拉链表，全量表，增量表一、拉链表

4 数据导入dw层表

insert overwrite table `demo`.`dw_product` partition(dt='2019-12-21')
select  
    goods_id,
    goods_status,
    createtime,
    modifytime
from `demo`.`ods_product` where dt='2019-12-21';

最终数据展示
大数据-数据仓库：快照表、拉链表，全量表，增量表一、拉链表

增量导入12月22日数据

1 MySQL数据库导入12月22日数据（6条数据）

UPDATE `demo`.`t_product` SET goods_status = '已删除', modifytime = '2019-12-22' WHERE goods_id = '003';
UPDATE `demo`.`t_product` SET goods_status = '已删除', modifytime = '2019-12-22' WHERE goods_id = '006';
INSERT INTO `demo`.`t_product`(goods_id, goods_status, createtime, modifytime) VALUES
('007', '待审核', '2019-12-22', '2019-12-22'),
('008', '待审核', '2019-12-22', '2019-12-22');

2 运行Kettle转换，导入2019年12月22日数据

导入2019年12月22日数据
大数据-数据仓库：快照表、拉链表，全量表，增量表一、拉链表

3 Hive查询数据

hive数据
大数据-数据仓库：快照表、拉链表，全量表，增量表一、拉链表

4 数据导入dw层表

insert overwrite table `demo`.`dw_product` partition(dt='2019-12-22')
select  
    goods_id,
    goods_status,
    createtime,
    modifytime
from `demo`.`ods_product` where dt='2019-12-22';

2019-12-22数据
大数据-数据仓库：快照表、拉链表，全量表，增量表一、拉链表

从上述案例，可以看到：表每天保留一份全量，每次全量中会保存很多不变的信息，如果数据量很大的话，对存储是极大的浪费。

可以将表设计为拉链表，既能满足反应数据的历史状态，又可以最大限度地节省存储空间

方案二：拉链表【使用拉链表保存历史快照】

1、拉链表方案介绍

拉链表

拉链表不存储冗余的数据，只有某行的数据发生变化，才需要保存下来，相比每次全量同步会节省存储空间
能够查询到历史快照
额外的增加了两列（dw_start_date dw_end_date），为数据行的生命周期

12月20日商品拉链表的数据：

goods_id	goods_status	createtime	modifytime	dw_start_date	dw_end_date
001	待审核	2019-12-18	2019-12-20	2019-12-20	9999-12-31
002	待售	2019-12-19	2019-12-20	2019-12-20	9999-12-31
003	在售	2019-12-20	2019-12-20	2019-12-20	9999-12-31
004	已删除	2019-12-15	2019-12-20	2019-12-20	9999-12-31

12月20日的数据是全新的数据导入到dw表
dw_start_date表示某一条数据的生命周期起始时间，即数据从该时间开始有效（即生效日期）
dw_end_date表示某一条数据的生命周期结束时间，即数据到这一天失效（即失效日期）
dw_end_date为9999-12-31，表示当前这条数据是最新的数据，数据到9999-12-31才过期

12月21日商品拉链表的数据

goods_id	goods_status	createtime	modifytime	dw_start_date	dw_end_date
001	待审核	2019-12-18	2019-12-20	2019-12-20	2019-12-20
002	待售	2019-12-19	2019-12-20	2019-12-20	9999-12-31
003	在售	2019-12-20	2019-12-20	2019-12-20	9999-12-31
004	已删除	2019-12-15	2019-12-20	2019-12-20	9999-12-31
001	待售	2019-12-18	2019-12-21	2019-12-21	9999-12-31
005	待审核	2019-12-21	2019-12-21	2019-12-21	9999-12-31
006	待审核	2019-12-21	2019-12-21	2019-12-21	9999-12-31

拉链表中没有存储冗余的数据，只要数据没有变化，无需同步
001编号的商品数据的状态发生了变化（从待审核 → 待售），需要将原有的dw_end_date变为2019-12-21，表示待审核状态，在2019/12/20（包含） - 2019/12/21有效
001编号新的状态重新保存了一条记录，dw_start_date为2019/12/21，dw_end_date为9999/12/31

12月22日商品拉链表的数据

goods_id	goods_status	createtime	modifytime	dw_start_date	dw_end_date
001	待审核	2019-12-18	2019-12-20	2019-12-20	2019-12-20
002	待售	2019-12-19	2019-12-20	2019-12-20	9999-12-31
003	在售	2019-12-20	2019-12-20	2019-12-20	2019-12-21
004	已删除	2019-12-15	2019-12-20	2019-12-20	9999-12-31
001	待售	2019-12-18	2019-12-21	2019-12-21	9999-12-31
005	待审核	2019-12-21	2019-12-21	2019-12-21	9999-12-31
006	待审核	2019-12-21	2019-12-21	2019-12-21	9999-12-31
003	已删除	2019-12-20	2019-12-22	2019-12-22	9999-12-31
007	待审核	2019-12-22	2019-12-22	2019-12-22	9999-12-31
008	待审核	2019-12-22	2019-12-22	2019-12-22	9999-12-31

查询拉链表

1 获取2019-12-20日的历史快照数据

2 获取最新的商品快照数据

2、拉链表方案存储历史快照代码实现

操作步骤：

在原有dw层表上，添加额外的两列
- 生效日期（dw_start_date）
- 失效日期（dw_end_date）
只同步当天修改的数据到ods层
拉链表算法实现
- 编写SQL处理当天最新的数据
- 编写SQL处理dw层历史数据，重新计算之前的dw_end_date
- 拉链表的数据为：当天最新的数据 UNION ALL 历史数据
拉链表的数据为：当天最新的数据 UNION ALL 历史数据

代码实现：

1 MySQL&Hive表初始化

MySQL创建商品表2

-- 创建数据库
CREATE DATABASE demo DEFAULT CHARACTER SET utf8 COLLATE utf8_general_ci;

-- 创建商品表
create table if not exists `demo`.`t_product_2`(
	goods_id varchar(50),		-- 商品编号
    goods_status varchar(50),	-- 商品状态
    createtime varchar(50),		-- 商品创建时间
    modifytime varchar(50)		-- 商品修改时间
)ENGINE=InnoDB  DEFAULT CHARSET=utf8 ;

Hive ODS层建表

-- 创建表
create database if not exists `demo`;

-- 创建ods层表
create table if not exists `demo`.`ods_product_2`(
    goods_id string,        -- 商品编号
    goods_status string,    -- 商品状态
    createtime string,      -- 商品创建时间
    modifytime string       -- 商品修改时间
)
partitioned by (dt string)   --按照天分区
row format delimited fields terminated by ',' stored as TEXTFILE;

Hive dw层创建拉链表

-- 创建拉链表
create table if not exists `demo`.`dw_product_2`(
    goods_id string,        -- 商品编号
    goods_status string,    -- 商品状态
    createtime string,      -- 商品创建时间
    modifytime string,       -- 商品修改时间
    dw_start_date string,   -- 生效日期
    dw_end_date string      -- 失效日期
)
row format delimited fields terminated by ',' stored as TEXTFILE;

全量导入2019年12月20日数据

1 MySQL数据库导入12月20日数据（4条数据）

insert into `demo`.`t_product_2`(goods_id, goods_status, createtime, modifytime) values
('001', '待审核', '2019-12-18', '2019-12-20'),
('002', '待售', '2019-12-19', '2019-12-20'),
('003', '在售', '2019-12-20', '2019-12-20'),
('004', '已删除', '2019-12-15', '2019-12-20');

mysql中数据
大数据-数据仓库：快照表、拉链表，全量表，增量表一、拉链表

2 使用Kettle进行全量同步MySQL数据到Hive ods层表

Kettle组件图
大数据-数据仓库：快照表、拉链表，全量表，增量表一、拉链表
设置命名参数
大数据-数据仓库：快照表、拉链表，全量表，增量表一、拉链表

创建Hive分区

-- 创建分区
alter table `demo`.`ods_product_2` add if not exists partition (dt='${dt}');

hive增加分区
大数据-数据仓库：快照表、拉链表，全量表，增量表一、拉链表

表输入

SELECT
*
FROM t_product_2
where modifytime <= '${dt}'

表输入组件
大数据-数据仓库：快照表、拉链表，全量表，增量表一、拉链表
Hadoop File Ouput
大数据-数据仓库：快照表、拉链表，全量表，增量表一、拉链表

3 编写SQL从ods导入dw当天最新的数据

-- 从ods层导入dw当天最新数据
insert overwrite table `demo`.`dw_product_2`
select
    goods_id,                -- 商品编号
    goods_status,            -- 商品状态
    createtime,              -- 商品创建时间
    modifytime,              -- 商品修改时间
    modifytime as dw_start_date,    -- 生效日期
    '9999-12-31' as dw_end_date     -- 失效日期
from
    `demo`.`ods_product_2`
where
    dt = '2019-12-20';

当天最新的数据
大数据-数据仓库：快照表、拉链表，全量表，增量表一、拉链表

增量导入2019年12月21日数据

1 MySQL数据库导入12月21日数据（6条数据）

UPDATE `demo`.`t_product_2` SET goods_status = '待售', modifytime = '2019-12-21' WHERE goods_id = '001';
INSERT INTO `demo`.`t_product_2`(goods_id, goods_status, createtime, modifytime) VALUES
('005', '待审核', '2019-12-21', '2019-12-21'),
('006', '待审核', '2019-12-21', '2019-12-21');

2 使用Kettle开发增量同步MySQL数据到Hive ods层表

Hive创建分区

-- 创建分区
alter table `demo`.`ods_product_2` add if not exists partition (dt='${dt}');

表输入读取MySQL数据

SELECT
*
FROM t_product_2
where modifytime = '${dt}'

ods中数据
大数据-数据仓库：快照表、拉链表，全量表，增量表一、拉链表

3 编写SQL处理dw层历史数据，重新计算之前的dw_end_date

-- 重新计算dw层拉链表中的失效时间
select
    t1.goods_id,                -- 商品编号
    t1.goods_status,            -- 商品状态
    t1.createtime,              -- 商品创建时间
    t1.modifytime,              -- 商品修改时间
    t1.dw_start_date,           -- 生效日期（生效日期无需重新计算）
    case when (t2.goods_id is not null and t1.dw_end_date > '2019-12-21')
    then '2019-12-21'
    else t1.dw_end_date
    end as dw_end_date       -- 更新生效日期（需要重新计算）
from
    `demo`.`dw_product_2` t1
    left join
    (select * from `demo`.`ods_product_2` where dt='2019-12-21') t2
    on t1.goods_id = t2.goods_id

6 合并当天最新的数据和历史数据到

insert overwrite table `demo`.`dw_product_2`
select
    t1.goods_id,                -- 商品编号
    t1.goods_status,            -- 商品状态
    t1.createtime,              -- 商品创建时间
    t1.modifytime,              -- 商品修改时间
    t1.dw_start_date,           -- 生效日期（生效日期无需重新计算）
    case when (t2.goods_id is not null and t1.dw_end_date > '2019-12-21')
    then '2019-12-21'
    else t1.dw_end_date
    end as dw_end_date       -- 更新生效日期（需要重新计算）
from
    `demo`.`dw_product_2` t1
    left join
    (select * from `demo`.`ods_product_2` where dt='2019-12-21') t2
    on t1.goods_id = t2.goods_id
union all
select 
    goods_id,                -- 商品编号
    goods_status,            -- 商品状态
    createtime,              -- 商品创建时间
    modifytime,              -- 商品修改时间
    modifytime as dw_start_date,  -- 生效日期
    '9999-12-31' as dw_end_date   -- 失效日期
from
    `demo`.`ods_product_2` where dt='2019-12-21'
order by dw_start_date, goods_id;

最终数据
大数据-数据仓库：快照表、拉链表，全量表，增量表一、拉链表

参考资料：

图解数据仓库之拉链表，超简单！

数仓中的全量表，增量表，拉链表，流水表，快照表

大数据-数据仓库：快照表、拉链表，全量表，增量表一、拉链表

一、拉链表

商品历史快照案例

方案一：快照每一天的数据到数仓（冗余数据）

1、方案介绍

2、MySQL到Hive数仓代码实现

方案二：拉链表【使用拉链表保存历史快照】

1、拉链表方案介绍

查询拉链表

2、拉链表方案存储历史快照代码实现

继续阅读

jdk1.7+Eclipse+Maven3.5+Hadoop2.7.3构建hadoop项目

HDFS命令行工具

【51CTO学院三周年】自学路上的伴侣

在线教育巨头多邻国Duolingo入华一周年，中国市场马力全开

【分类算法】什么是分类算法定义分类与聚类分类过程方法

申请评分模型拒绝推断（RI）方法申请评分模型拒绝推断（RI）方法

Sql优化一：sql语句优化

Nacos 2.0 升级前后性能对比压测

尚硅谷—韩顺平—图解 Java设计模式（结构型）（55～）

Storm编译打包过程中遇到的一些问题及解决方法

MapReduce的几个企业级经典面试案例MapReduce的几个企业级经典面试案例

9.spark Core 进阶2--Cashe

浅谈企业活动中进行数据分析的重要性

Ambari介绍和架构原理

NOSQL安全攻击

win10本地scala和spark安装安装scala安装spark