离线数仓 (九) --------- 数仓理论

柔光的暖阳◎ 2024-04-01 06:08 41阅读 0赞

#### 目录 ####

*  一、范式理论
 *   *  1. 范式概念
     *  2. 函数依赖
     *  3. 三范式区分
 *  二、关系建模与维度建模
 *   *  1. 关系建模
     *  2. 维度建模
 *  三、维度表和事实表 (重点)
 *   *  1. 维度表
     *  2. 事实表
 *  四、维度模型分类
 *   *  1. 星型模型
     *  2. 雪花模型
     *  3. 星座模型
     *  4. 模型的选择
 *  五、数据仓库建模
 *   *  1. ODS 层
     *  2. DIM 层和 DWD 层
     *  3. DWS 层 与 DWT 层
     *  4. ADS 层

--------------------

## 一、范式理论 ##

### 1. 范式概念 ###

**定义**

数据建模必须遵循一定的规则，在关系建模中，这种规则就是范式。

**目的**

采用范式，可以降低数据的冗余性。

**为什么要降低数据冗余性？**

*  十几年前，磁盘很贵，为了减少磁盘存储。
 *  以前没有分布式系统，都是单机，只能增加磁盘，磁盘个数也是有限的。
 *  一次修改，需要修改多个表，很难保证数据一致性。

**缺点**

范式的缺点是获取数据时，需要通过Join拼接出最后的数据。

**分类**

目前业界范式有：第一范式(1NF)、第二范式(2NF)、第三范式(3NF)、巴斯-科德范式(BCNF)、第四范式(4NF)、第五范式(5NF)。

### 2. 函数依赖 ###

![在这里插入图片描述][c626faa408f1434ba7f9930763aa38cd.png]

### 3. 三范式区分 ###

**第一范式 ：**

![在这里插入图片描述][a9a9d089b4bf4f77b58efe69220fa95b.png]

**第二范式 ：**

![在这里插入图片描述][4467129d0f3e4e8fb91b0e784932a690.png]  
**第三范式 ：**

![在这里插入图片描述][5e49b0bc41954679b5fb5fdc2bf843e5.png]

## 二、关系建模与维度建模 ##

关系建模和维度建模是两种数据仓库的建模技术。关系建模由 Bill Inmon 所倡导，维度建模由 Ralph Kimball 所倡导。

### 1. 关系建模 ###

关系建模将复杂的数据抽象为两个概念——实体和关系，并使用规范化的方式表示出来。关系模型如图所示，从图中可以看出，较为松散、零碎，物理表数量多。

![在这里插入图片描述][79905ae92eaf422881bf3010173abc97.png]  
关系模型严格遵循第三范式 (3NF)，数据冗余程度低，数据的一致性容易得到保证。由于数据分布于众多的表中，查询会相对复杂，在大数据的场景下，查询效率相对较低。

### 2. 维度建模 ###

维度模型如图所示，从图中可以看出，模型相对清晰、简洁。

![在这里插入图片描述][e005e8087ae345e099f2509654bf3ca8.png]

维度模型以数据分析作为出发点，不遵循三范式，故数据存在一定的冗余。维度模型面向业务，将业务用事实表和维度表呈现出来。表结构简单，故查询简单，查询效率较高。

## 三、维度表和事实表 (重点) ##

### 1. 维度表 ###

维度表：一般是对事实的描述信息。每一张维表对应现实世界中的一个对象或者概念。  
例如：用户、商品、日期、地区等。

维表的特征：

*  维表的范围很宽（具有多个属性、列比较多）
 *  跟事实表相比，行数相对较小：通常< 10万条
 *  内容相对固定：编码表

时间维度表：

### 2. 事实表 ###

事实表中的每行数据代表一个业务事件（下单、支付、退款、评价等）。“事实”这个术语表示的是业务事件的度量值（可统计次数、个数、金额等）。

每一个事实表的行包括：具有可加性的数值型的度量值、与维表相连接的外键，通常具有两个和两个以上的外键。

事实表的特征：

*  非常的大
 *  内容相对的窄：列数较少（主要是外键id和度量值）
 *  经常发生变化，每天会新增加很多。

**A、事务型事实表**

以每个事务或事件为单位，例如一个销售订单记录，一笔支付记录等，作为事实表里的一行数据。一旦事务被提交，事实表数据被插入，数据就不再进行更改，其更新方式为增量更新。

**B、周期型快照事实表**

周期型快照事实表中不会保留所有数据，只保留固定时间间隔的数据，例如每天或者每月的销售额，或每月的账户余额等。

例如购物车，有加减商品，随时都有可能变化，但是我们更关心每天结束时这里面有多少商品，方便我们后期统计分析。

**C、累积型快照事实表**

累计快照事实表用于跟踪业务事实的变化。例如，数据仓库中可能需要累积或者存储订单从下订单开始，到订单商品被打包、运输、和签收的各个业务阶段的时间点数据来跟踪订单声明周期的进展情况。当这个业务过程进行时，事实表的记录也要不断更新。

## 四、维度模型分类 ##

在维度建模的基础上又分为三种模型：星型模型、雪花模型、星座模型。

### 1. 星型模型 ###

![在这里插入图片描述][3500eaa24e314add8c7c238eb13c6a14.png]  
雪花模型与星型模型的区别主要在于维度的层级，标准的星型模型维度只有一层，而雪花模型可能会涉及多级。

### 2. 雪花模型 ###

雪花膜型，比较靠近 3NF，但是无法完全遵守，因为遵循 3NF的性能成本太高。

![在这里插入图片描述][04923edfffcb46ab84361739b332d0bb.png]

### 3. 星座模型 ###

![在这里插入图片描述][d00a658d16c84a289e70f2ef49f67bae.png]

星座模型与前两种情况的区别是事实表的数量，星座模型是基于多个事实表。基本上是很多数据仓库的常态，因为很多数据仓库都是多个事实表的。所以星座不星座只反映是否有多个事实表，他们之间是否共享一些维度表。所以星座模型并不和前两个模型冲突。

### 4. 模型的选择 ###

首先就是星座不星座这个只跟数据和需求有关系，跟设计没关系，不用选择。星型还是雪花，取决于性能优先，还是灵活更优先。目前实际企业开发中，不会绝对选择一种，根据情况灵活组合，甚至并存（一层维度和多层维度都保存）。但是整体来看，更倾向于维度更少的星型模型。尤其是 Hadoop 体系，减少 Join 就是减少 Shuffle，性能差距很大。(关系型数据可以依靠强大的主键索引）

## 五、数据仓库建模 ##

### 1. ODS 层 ###

HDFS 用户行为数据

![在这里插入图片描述][0947879dc9be4fb98687e1de1cc47643.png]  
HDFS 业务数据

![在这里插入图片描述][a492490a27744e3186314f2384b12757.png]  
针对 HDFS 上的用户行为数据和业务数据，我们如何规划处理？

*  保持数据原貌不做任何修改，起到备份数据的作用。
 *  数据采用压缩，减少磁盘存储空间（例如：原始数据100G，可以压缩到10G左右）
 *  创建分区表，防止后续的全表扫描

### 2. DIM 层和 DWD 层 ###

DIM 层 DWD 层需构建维度模型，一般采用星型模型，呈现的状态一般为星座模型。

维度建模一般按照以下四个步骤：

**选择业务过程 —> 声明粒度 ----> 确认维度 —> 确认事实**

**A、选择业务过程**

在业务系统中，挑选我们感兴趣的业务线，比如下单业务，支付业务，退款业务，物流业务，一条业务线对应一张事实表。

**B、声明粒度**

数据粒度指数据仓库的数据中保存数据的细化程度或综合程度的级别。

声明粒度意味着精确定义事实表中的一行数据表示什么，应该尽可能选择最小粒度，以此来应各种各样的需求。

典型的粒度声明如下：

订单事实表中一行数据表示的是一个订单中的一个商品项。  
支付事实表中一行数据表示的是一个支付记录。

**C、确定维度**

维度的主要作用是描述业务是事实，主要表示的是“谁，何处，何时”等信息。

确定维度的原则是：后续需求中是否要分析相关维度的指标。例如，需要统计，什么时间下的订单多，哪个地区下的订单多，哪个用户下的订单多。需要确定的维度就包括：时间维度、地区维度、用户维度。

**D、确定事实**

此处的“事实”一词，指的是业务中的度量值 (次数、个数、件数、金额，可以进行累加)， 例如订单金额、下单次数等。

在DWD层，以业务过程为建模驱动，基于每个具体业务过程的特点，构建最细粒度的明细层事实表。事实表可做适当的宽表化处理。

事实表和维度表的关联比较灵活，但是为了应对更复杂的业务需求，可以将能关联上的表尽量关联上。

<table> 
 <thead> 
  <tr> 
   <th></th> 
   <th>时间</th> 
   <th>用户</th> 
   <th>地区</th> 
   <th>商品</th> 
   <th>优惠券</th> 
   <th>活动</th> 
   <th>度量值</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>订单</td> 
   <td>√</td> 
   <td>√</td> 
   <td>√</td> 
   <td></td> 
   <td></td> 
   <td></td> 
   <td>运费/优惠金额/原始金额/最终金额</td> 
  </tr> 
  <tr> 
   <td>订单详情</td> 
   <td>√</td> 
   <td>√</td> 
   <td>√</td> 
   <td>√</td> 
   <td>√</td> 
   <td>√</td> 
   <td>件数/优惠金额/原始金额/最终金额</td> 
  </tr> 
  <tr> 
   <td>支付</td> 
   <td>√</td> 
   <td>√</td> 
   <td>√</td> 
   <td></td> 
   <td></td> 
   <td></td> 
   <td>支付金额</td> 
  </tr> 
  <tr> 
   <td>加购</td> 
   <td>√</td> 
   <td>√</td> 
   <td></td> 
   <td>√</td> 
   <td></td> 
   <td></td> 
   <td>件数/金额</td> 
  </tr> 
  <tr> 
   <td>收藏</td> 
   <td>√</td> 
   <td>√</td> 
   <td></td> 
   <td>√</td> 
   <td></td> 
   <td></td> 
   <td>次数</td> 
  </tr> 
  <tr> 
   <td>评价</td> 
   <td>√</td> 
   <td>√</td> 
   <td></td> 
   <td>√</td> 
   <td></td> 
   <td></td> 
   <td>次数</td> 
  </tr> 
  <tr> 
   <td>退单</td> 
   <td>√</td> 
   <td>√</td> 
   <td>√</td> 
   <td>√</td> 
   <td></td> 
   <td></td> 
   <td>件数/金额</td> 
  </tr> 
  <tr> 
   <td>退款</td> 
   <td>√</td> 
   <td>√</td> 
   <td>√</td> 
   <td>√</td> 
   <td></td> 
   <td></td> 
   <td>件数/金额</td> 
  </tr> 
  <tr> 
   <td>优惠券领用</td> 
   <td>√</td> 
   <td>√</td> 
   <td></td> 
   <td></td> 
   <td>√</td> 
   <td></td> 
   <td>次数</td> 
  </tr> 
 </tbody> 
</table>

至此，数据仓库的维度建模已经完毕，DWD层是以业务过程为驱动。

DWS 层、DWT 层和 ADS 层都是以需求为驱动，和维度建模已经没有关系了。

DWS 和 DWT 都是建宽表，按照主题去建表。主题相当于观察问题的角度。对应着维度表。

### 3. DWS 层 与 DWT 层 ###

DWS 层和 DWT 层统称宽表层，这两层的设计思想大致相同，通过以下案例进行阐述。

**A、问题引出**

两个需求，统计每个省份订单的个数、统计每个省份订单的总金额。

**B、处理办法**

都是将省份表和订单表进行 join，group by 省份，然后计算。同样数据被计算了两次，实际上类似的场景还会更多。

那怎么设计能避免重复计算呢？

针对上述场景，可以设计一张地区宽表，其主键为地区 ID，字段包含为：下单次数、下单金额、支付次数、支付金额等。上述所有指标都统一进行计算，并将结果保存在该宽表中，这样就能有效避免数据的重复计算。

**C、总结**

*  需要建哪些宽表：以维度为基准。
 *  宽表里面的字段：是站在不同维度的角度去看事实表，重点关注事实表聚合后的度量值。
 *  DWS和DWT层的区别：DWS层存放的所有主题对象当天的汇总行为，例如每个地区当天的下单次数，下单金额等，DWT层存放的是所有主题对象的累积行为，例如每个地区最近７天 15 天、30 天、60 天）的下单次数、下单金额等。

### 4. ADS 层 ###

对电商系统各大主题指标分别进行分析。

[c626faa408f1434ba7f9930763aa38cd.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/29cd3dd8ad0d425e9ef41f6c0aa0f521.png
[a9a9d089b4bf4f77b58efe69220fa95b.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/4ce9e67b784545dfb353346a20c8ec23.png
[4467129d0f3e4e8fb91b0e784932a690.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/2d6f07f5d4bc4278aa4b84ec7a8bc23d.png
[5e49b0bc41954679b5fb5fdc2bf843e5.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/2c0f97ef07114d2eabc03f7ba4929aa1.png
[79905ae92eaf422881bf3010173abc97.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/9bed441eef34446699d027cd5f65f561.png
[e005e8087ae345e099f2509654bf3ca8.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/75a13e64a369457d8996b6b655955005.png
[3500eaa24e314add8c7c238eb13c6a14.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/8c29954470434c2297e0830297c0d67d.png
[04923edfffcb46ab84361739b332d0bb.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/c8770225c136450f81678777358c1669.png
[d00a658d16c84a289e70f2ef49f67bae.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/c378543b4d88445fa6fdafdf602c3291.png
[0947879dc9be4fb98687e1de1cc47643.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/3a2f2b15ba2240de96b7f0ab0b9554fd.png
[a492490a27744e3186314f2384b12757.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/ef2cee8097084dd792d501ae79e862a2.png