欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

一篇文章让你学会解决企业中缓慢变化维的问题

程序员文章站 2022-03-08 14:27:33
...

前言
大家好,我是DJ丶小哪吒,我又来跟你们分享知识了。对软件开发有着浓厚的兴趣。喜欢与人分享知识。做博客的目的就是为了能与 他 人知识共享。由于水平有限。博客中难免会有一些错误。如有 纰 漏之处,欢迎大家在留言区指正。小编也会及时改正。

今天小编要和大家浅谈一下在做项目过程中。我们经常会遇到的缓慢变化维的维问题。

码字不易,先赞再看,养成习惯~~~

一、缓慢变化维

1.1、什么是缓慢变化维(SCD)

1.1.1、缓慢变化维简介
  • 缓慢变化维,简称SCD(Slowly Changing Dimensions)
  • 一些维度表的数据不是静态的,而是会随着时间而缓慢地变化(这里的缓慢是相对事实表而言,事实表数据变化的速度比维度表快)
  • 这种随着时间发生变化的维度称之为缓慢变化维
  • 把处理维度表数据历史变化的问题,称为缓慢变化维问题,简称SCD问题
1.1.2、举例说明

例如:用根据用户维度,统计不同出生年份的消费金额占比。(80后、90后、00后)。

而期间,用户可能去修改用户数据,例如:将出生日期改成了 1992年。此时,用户维度表就发生了变化。当然这个变化相对事实表的变换要慢。但这个用户维度表的变化,就是缓慢变化维。

一篇文章让你学会解决企业中缓慢变化维的问题
这个用户的数据不是一直不变,而是有可能发生变化。例如:用户修改了出生日期、或者用户修改了住址。

1.2、 SCD问题的几种解决方案

以下为解决缓慢变化维问题的几种办法:

  • 保留原始值
  • 改写属性值
  • 增加维度新行
  • 增加维度新列
  • 添加历史表
SCD解决方案 - 保留原始值

某一个属性值绝不会变化。事实表始终按照该原始值进行分组。例如:
出生日期的数据,始终按照用户第一次填写的数据为准

SCD解决方案 - 改写属性值
  • 对其相应需要重写维度行中的旧值,以当前值替换。因此其始终反映最近的情况
  • 当一个维度值的数据源发生变化,并且不需要在维度表中保留变化历史时,通常用新数据来覆盖旧数据。这样的处理使属性所反映的中是最新的赋值。

用户维度表
修改前:
一篇文章让你学会解决企业中缓慢变化维的问题
修改后:
一篇文章让你学会解决企业中缓慢变化维的问题

  • 这种方法有个前提,用户不关心这个数据的变化
  • 这样处理,易于实现,但是没有保留历史数据,无法分析历史变化信息
SCD解决方案 - 增加维度新行

数据仓库系统的目标之一是正确地表示历史。典型代表就是拉链表。
保留历史的数据,并插入新的数据。

用户维度表
修改前:
一篇文章让你学会解决企业中缓慢变化维的问题
修改后:
一篇文章让你学会解决企业中缓慢变化维的问题

SCD解决方案 - 增加维度新列

用不同的字段来保存不同的值,就是在表中增加一个字段,这个字段用来保存变化后的当前值,而原来的值则被称为变化前的值。总的来说,这种方法通过添加字段来保存变化后的痕迹。

用户维度表
修改前:
一篇文章让你学会解决企业中缓慢变化维的问题
修改后:
一篇文章让你学会解决企业中缓慢变化维的问题

SCD解决方案 - 使用历史表

另外建一个表来保存历史记录,这种方式就是将历史数据与当前数据完全分开来,在维度中只保存当前最新的数据。

用户维度表
一篇文章让你学会解决企业中缓慢变化维的问题
用户维度历史表
一篇文章让你学会解决企业中缓慢变化维的问题
这种方式的优点是可以同时分析当前及前一次变化的属性值,缺点是只保留了最后一次变化信息。

        ========================================================================================

是不是感觉到这里就结束了了呢,那么理论方面我们已经介绍完了。是不是总感觉少了点什么。
对了,就是实操,实践是验证真理的唯一标准。
,

企业中常见的解决缓慢变化维的方法。

二、数仓项目-拉链表技术介绍(简单举例)

数据仓库的数据模型设计过程中,经常会遇到这样的需求:
1.表中的部分字段会被update,例如:
用户的地址,产品的描述信息,品牌信息等等;
2.需要查看某一个时间点或者时间段的历史快照信息,例如:
查看某一个产品在历史某一时间点的状态
查看某一个用户在过去某一段时间内,更新过几次等等
3.变化的比例和频率不是很大,例如:
总共有1000万的会员,每天新增和发生变化的有10万左右

2.1、商品历史快照案例

需求:
有一个商品表:
一篇文章让你学会解决企业中缓慢变化维的问题
2019年12月20日的数据如下所示:
一篇文章让你学会解决企业中缓慢变化维的问题
商品的状态,会随着时间推移而变化,我们需要将商品的所有变化的历史信息都保存下来。如何实现呢?

2.1.1、方案一:快照每一天的数据到数仓

该方案为:

  • 每一天都保存一份全量,将所有数据同步到数仓中
  • 很多记录都是重复保存,没有任何变化
    12月20日(4条数据)
    一篇文章让你学会解决企业中缓慢变化维的问题
    12月21日(10条数据)
    其中包含了12月20日的数据,也包含了12月21日的最新数据

一篇文章让你学会解决企业中缓慢变化维的问题
12月22日(18条数据)
其中包含了12月20日和12月21日的数据,也包含了12月22日的最新数据
一篇文章让你学会解决企业中缓慢变化维的问题

以上便于各位理解,所以小编用这种方式给各位举例。接下来小编开始实现了。

2.1.1、方案一:MySQL到Hive数仓代码实现

MySQL&Hive初始化

1、在MySQL demo库中 创建表

-- 创建数据库
create database if not exists demo;-- 创建商品表
create table if not exists `demo`.`t_product`(
goods_id varchar(50), -- 商品编号
  goods_status varchar(50), -- 商品状态
  createtime varchar(50), -- 商品创建时间
  modifytime varchar(50) -- 商品修改时间
);

2、在Hive中 demo库创建表

-- 创建表
create database if not exists `demo`;-- 创建ods层表
create table if not exists `demo`.`ods_product`(
  goods_id string,        -- 商品编号
  goods_status string,    -- 商品状态
  createtime string,      -- 商品创建时间
  modifytime string       -- 商品修改时间
)
partitioned by (dt string)
row format delimited fields terminated by ',' stored as TEXTFILE;-- 创建dw层表
create table if not exists `demo`.`dw_product`(
  goods_id string,        -- 商品编号
  goods_status string,    -- 商品状态
  createtime string,      -- 商品创建时间
  modifytime string       -- 商品修改时间
)
partitioned by (dt string)
row format delimited fields terminated by ',' stored as TEXTFILE;

增量导入12月20日数据
1、MySQL数据库导入12月20日数据(4条数据)

insert into `demo`.`t_product`(goods_id, goods_status, createtime, modifytime) values
('001', '待审核', '2019-12-18', '2019-12-20'),
('002', '待售', '2019-12-19', '2019-12-20'),
('003', '在售', '2019-12-20', '2019-12-20'),
('004', '已删除', '2019-12-15', '2019-12-20');

2、使用Kettle将MySQL数据导出,并导入到分区HDFS位置
一篇文章让你学会解决企业中缓慢变化维的问题
注意:同步到hive数仓中,别忘了添加上分区,以12月20日分区。
同步完成之后,

-- 创建分区
alter table `demo`.`ods_product` add if not exists partition (dt='2019-12-20');

3、Hive中查询数据

select * from `demo`.`ods_product`

4、数据导入维度表

insert overwrite table `demo`.`dw_product` partition(dt='2019-12-20')
select  
  goods_id,
  goods_status,
  createtime,
  modifytime
from `demo`.`ods_product` where dt='2019-12-20';

增量导入12月21日数据
1、MySQL数据库导入12月21日数据(6条数据)

UPDATE `demo`.`t_product` SET goods_status = '待售', modifytime = '2019-12-21' WHERE goods_id = '001';
INSERT INTO `demo`.`t_product`(goods_id, goods_status, createtime, modifytime) VALUES
('005', '待审核', '2019-12-21', '2019-12-21'),
('006', '待审核', '2019-12-21', '2019-12-21');

2、运行Kettle转换,导入2019年12月21日数据
一篇文章让你学会解决企业中缓慢变化维的问题
以上数据同步到12月21日分区中。
3、Hive查询数据

select * from `demo`.`ods_product` where dt='2019-12-21';

4、数据导入dw层表

insert overwrite table `demo`.`dw_product` partition(dt='2019-12-21')
select  
  goods_id,
  goods_status,
  createtime,
  modifytime
from `demo`.`ods_product` where dt='2019-12-21';

增量导入12月22日数据
1、MySQL数据库导入12月22日数据(6条数据)

UPDATE `demo`.`t_product` SET goods_status = '已删除', modifytime = '2019-12-22' WHERE goods_id = '003';
UPDATE `demo`.`t_product` SET goods_status = '已删除', modifytime = '2019-12-22' WHERE goods_id = '006';
INSERT INTO `demo`.`t_product`(goods_id, goods_status, createtime, modifytime) VALUES
('007', '待审核', '2019-12-22', '2019-12-22'),
('008', '待审核', '2019-12-22', '2019-12-22');

2、运行Kettle转换,导入2019年12月22日数据
一篇文章让你学会解决企业中缓慢变化维的问题
同步到hive中,分区为12月22日。
3、Hive查询数据

select * from ods_product where dt='2019-12-22';

4、数据导入dw层表

insert overwrite table `demo`.`dw_product` partition(dt='2019-12-22')
select  
  goods_id,
  goods_status,
  createtime,
  modifytime
from `demo`.`ods_product` where dt='2019-12-22';

从上述案例,可以看到:
表每天保留一份全量,每次全量中会保存很多不变的信息,如果数据量很大的话,对存储是极大的浪费
可以将表设计为拉链表,既能满足反应数据的历史状态,又可以最大限度地节省存储空间

2.1.2、方案二:使用拉链表保存历史快照

拉链表

  • 拉链表不存储冗余的数据,只有某行的数据发生变化,才需要保存下来,相比每次全量同步会节省存储空间
  • 能够查询到历史快照
  • 额外的增加了两列(dw_start_date、dw_end_date),为数据行的生命周期
    12月20日商品拉链表的数据:
    一篇文章让你学会解决企业中缓慢变化维的问题
  • 12月20日的数据是全新的数据导入到dw表
  • dw_start_date表示某一条数据的生命周期起始时间,即数据从该时间开始有效(即生效日期)
  • dw_end_date表示某一条数据的生命周期结束时间,即数据到这一天(不包含)(即失效日期)
  • dw_end_date为9999-12-31,表示当前这条数据是最新的数据,数据到9999-12-31才过期

12月21日商品拉链表的数据
一篇文章让你学会解决企业中缓慢变化维的问题

  • 拉链表中没有存储冗余的数据,只要数据没有变化,无需同步
  • 001编号的商品数据的状态发生了变化(从待审核 → 待售),需要将原有的dw_end_date变为2019-12-21,表示待审核状态,在2019/12/20(包含) - 2019/12/21(不包含)有效
  • 001编号新的状态重新保存了一条记录,dw_start_date为2019/12/21,dw_end_date为9999/12/31
    12月22日商品拉链表的数据
    一篇文章让你学会解决企业中缓慢变化维的问题
2.1.2、方案二:拉链表存储历史快照代码实现

1.在原有dw层表上,添加额外的两列

  • 生效日期(dw_start_date)
  • 失效日期(dw_end_date)

2.只同步当天修改的数据到ods层
3.拉链表算法实现

  • 编写SQL处理当天最新的数据
  • 编写SQL处理dw层历史数据,重新计算之前的dw_end_date
  • 拉链表的数据为:当天最新的数据 UNION ALL 历史数据

4.拉链表的数据为:当天最新的数据 UNION ALL 历史数据

代码实现:
1、MySQL&Hive表初始化
MySQL创建商品表2

-- 创建数据库
create database if not exists demo;-- 创建商品表
create table if not exists `demo`.`t_product_2`(
goods_id varchar(50), -- 商品编号
  goods_status varchar(50), -- 商品状态
  createtime varchar(50), -- 商品创建时间
  modifytime varchar(50) -- 商品修改时间
);

2.Hive ODS层建表

-- 创建表
create database if not exists `demo`;-- 创建ods层表
create table if not exists `demo`.`ods_product_2`(
  goods_id string,        -- 商品编号
  goods_status string,    -- 商品状态
  createtime string,      -- 商品创建时间
  modifytime string       -- 商品修改时间
)
partitioned by (dt string)
row format delimited fields terminated by ',' stored as TEXTFILE;

3.Hive dw层创建拉链表

-- 创建拉链表
create table if not exists `demo`.`dw_product_2`(
  goods_id string,        -- 商品编号
  goods_status string,    -- 商品状态
  createtime string,      -- 商品创建时间
  modifytime string,       -- 商品修改时间
  dw_start_date string,   -- 生效日期
  dw_end_date string      -- 失效日期
)
row format delimited fields terminated by ',' stored as TEXTFILE;

全量导入2019年12月20日数据
1、MySQL数据库导入12月20日数据(4条数据)

insert into `demo`.`t_product_2`(goods_id, goods_status, createtime, modifytime) values
('001', '待审核', '2019-12-18', '2019-12-20'),
('002', '待售', '2019-12-19', '2019-12-20'),
('003', '在售', '2019-12-20', '2019-12-20'),
('004', '已删除', '2019-12-15', '2019-12-20');

2、使用Kettle进行全量同步MySQL数据到Hive ods层表
一篇文章让你学会解决企业中缓慢变化维的问题
注意:同步到hive数仓中,别忘了添加上分区,以12月20日分区。

创建Hive分区

-- 创建分区
alter table `demo`.`ods_product_2` add if not exists partition (dt='${dt}');

表输入的sql语句

SELECT
*
FROM t_product_2
where modifytime <= '2019-12-20'

3、编写SQL从ods导入dw当天最新的数据

-- 从ods层导入dw当天最新数据
insert overwrite table `demo`.`dw_product_2`
select
  goods_id,                -- 商品编号
  goods_status,            -- 商品状态
  createtime,              -- 商品创建时间
  modifytime,              -- 商品修改时间
  modifytime as dw_start_date,    -- 生效日期
   '9999-12-31' as dw_end_date     -- 失效日期
from
  `demo`.`ods_product_2`
where
  dt = '2019-12-20';

增量导入2019年12月21日数据
1、MySQL数据库导入12月21日数据(6条数据)

UPDATE `demo`.`t_product_2` SET goods_status = '待售', modifytime = '2019-12-21' WHERE goods_id = '001';
INSERT INTO `demo`.`t_product_2`(goods_id, goods_status, createtime, modifytime) VALUES
('005', '待审核', '2019-12-21', '2019-12-21'),
('006', '待审核', '2019-12-21', '2019-12-21');

2、使用Kettle开发增量同步MySQL数据到Hive ods层表

hive创建分区

-- 创建分区
alter table `demo`.`ods_product_2` add if not exists partition (dt='2019-12-21');

表输入读取MySQL数据

SELECT
*
FROM t_product_2
where modifytime = '2019-12-21'

3、编写SQL处理dw层历史数据,重新计算之前的dw_end_date

-- 重新计算dw层拉链表中的失效时间
select
  t1.goods_id,                -- 商品编号
  t1.goods_status,            -- 商品状态
  t1.createtime,              -- 商品创建时间
  t1.modifytime,              -- 商品修改时间
  t1.dw_start_date,           -- 生效日期(生效日期无需重新计算)
  case when (t2.goods_id is not null and t1.dw_end_date > '2019-12-21')
  then '2019-12-21'
  else t1.dw_end_date
  end as dw_end_date       -- 更新生效日期(需要重新计算)
from
  `demo`.`dw_product_2` t1
  left join
  (select * from `demo`.`ods_product_2` where dt='2019-12-21') t2
   on t1.goods_id = t2.goods_id

4、合并当天最新的数据和历史数据到

insert overwrite table `demo`.`dw_product_2`
select
  t1.goods_id,                -- 商品编号
  t1.goods_status,            -- 商品状态
  t1.createtime,              -- 商品创建时间
  t1.modifytime,              -- 商品修改时间
  t1.dw_start_date,           -- 生效日期(生效日期无需重新计算)
  case when (t2.goods_id is not null and t1.dw_end_date > '2019-12-21')
  then '2019-12-21'
  else t1.dw_end_date
  end as dw_end_date       -- 更新生效日期(需要重新计算)
from
  `demo`.`dw_product_2` t1
  left join
  (select * from `demo`.`ods_product_2` where dt='2019-12-21') t2
   on t1.goods_id = t2.goods_id
union all
select 
  goods_id,                -- 商品编号
  goods_status,            -- 商品状态
  createtime,              -- 商品创建时间
  modifytime,              -- 商品修改时间
  modifytime as dw_start_date,  -- 生效日期
   '9999-12-31' as dw_end_date   -- 失效日期
from
  `demo`.`ods_product_2` where dt='2019-12-21'
order by dw_start_date, goods_id;
2.1.3、查询拉链表

1、获取2019-12-20日的历史快照数据

select * from demo.dw_product_2 where dw_start_date <= '2019-12-20' and dw_end_date > '2019-12-20' order by goods_id;

2、获取最新的商品快照数据

select * from demo.dw_product_2 where dw_end_date = '9999-12-31' order by goods_id;

好了,以上内容就到这里了。你学会了吗。 欢迎路过的朋友关注小编哦。各位朋友关注点赞是小编坚持下去的动力。小编会继续为大家分享更多的知识哦~~~。

我是DJ丶小哪吒。是一名互联网行业的工具人,小编的座右铭:“我不生产代码,我只做代码的搬运工”…哈哈哈,我们下期见哦,Bye~

美好的生命应该充满期待、惊喜和感激。
相关标签: 大数据