离线数仓 (八) --------- 数仓分层

末蓝、 2024-04-01 06:00 79阅读 0赞

#### 目录 ####

*  一、为什么要分层
 *  二、数据集市和数据仓库区别
 *  三、数仓命名规范
 *   *  1. 表命名
     *  2. 脚本命名
     *  3. 表字段类型

--------------------

## 一、为什么要分层 ##

**分层说明：**

ODS 层：原始数据层，存放原始数据，直接加载原始日志、数据，数据保持原貌不做处理。

DWD 层：对 ODS 层数据进行清洗 (去除空值，脏数据，超过极限范围的数据)、脱敏等。保存业务事实明细，一行信息代表一次业务行为，例如一次下单。

DIM 层：维度层，保存维度数据，主要是对业务事实的描述信息，例如何人，何时，何地等。

DWS 层：以 DWD 为基础，按天进行轻度汇总。一行信息代表一个主题对象一天的汇总行为，例如一个用户一天下单次数。

DWT 层 ： 以 DWS 为基础，对数据进行累积汇总。一行信息代表一个主题对象的累积行为，例如一个用户从注册那天开始至今一共下了多少次单。

ADS 层 ： 为各种统计报表提供数据。

![在这里插入图片描述][0f7d68d7eb434dee91d8390251384caf.png]

**仓库为什么要分层?**

A、把复杂问题简单化：将复杂的任务分解成多层来完成，每一层只处理简单的任务，方使定位问题。

B、减少重复开发：规范数据分层，通过的中间层数据，能够减少极大的重复计算，增加一次计算结果的复用性。

C、隔离原始数据：不论是数据的异常还是数据的敏感性，使真实数据与统计数据解耦开。

## 二、数据集市和数据仓库区别 ##

数据集市 (Data Market)，现在市面上的公司和书籍都对数据集市有不同的概念。

数据集市则是一种微型的数据仓库，它通常有更少的数据，更少的主题区域，以及更少的历史数据，因此是部门级的，一般只能为某个局部范围内的管理人员服务。

数据仓库是企业级的，能为整个企业各个部门的运行提供决策支持手段。

![在这里插入图片描述][b11141b1262240ab919280cac8b9830b.png]

## 三、数仓命名规范 ##

### 1. 表命名 ###

*  ODS 层命名为 ods\_表名
 *  DIM 层命名为 dim\_表名
 *  DWD 层命名为 dwd\_表名
 *  DWS 层命名为 dws\_表名
 *  DWT 层命名为 dwt\_表名
 *  ADS 层命名为 ads\_表名
 *  临时表命名为 tmp\_表名

### 2. 脚本命名 ###

*  数据源\_to\_目标\_db/log.sh
 *  用户行为脚本以 log 为后缀，业务数据脚本以 db 为后缀

### 3. 表字段类型 ###

*  数量类型为 bigint
 *  金额类型为 decimal(16, 2)，表示：16位有效数字，其中小数部分2位
 *  字符串(名字，描述信息等)类型为 string
 *  主键外键类型为 string
 *  时间戳类型为 bigint

[0f7d68d7eb434dee91d8390251384caf.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/3aa514684a1341d8b4ae48d66b1f3723.png
[b11141b1262240ab919280cac8b9830b.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/243f8924eefe4144afb1cdede5d41f43.png

发表评论取消回复

表情：

评论列表（有 0 条评论，79人围观）

还没有评论，来说两句吧...

相关阅读

相关离线数仓 (八) --------- 数仓分层

目录一、为什么要分层二、数据集市和数据仓库区别三、数仓命名规范 1. 表命名 2. 脚本命名 3. 表字段

末蓝、/ 2024年04月01日 06:00/ 0 赞/ 80 阅读

相关数仓分层设计初步

数仓分层 1.ODS、DWD、DWM、DWS、ADS 的含义网上找的两张概念图如下： ![在这里插入图片描述][watermark_type_d3F5LXpl

我不是女神ヾ/ 2023年10月06日 21:53/ 0 赞/ 54 阅读

相关数仓分层总结

`数仓分层:` `ODS层` (1）保持教据原貌不做任何修改，备份 (2）创建分区表，防止后续的全表扫描 (3）采用Lzo压缩，并创建索引（切片） (4）创

梦里梦外;/ 2023年03月02日 10:28/ 0 赞/ 8 阅读

相关电商数仓-(数仓分层概念+数仓理论)

目录数仓分层概念为什么要分层数据集市与数据仓库概念数仓命名规范

迈不过友情╰/ 2023年03月01日 13:26/ 0 赞/ 178 阅读

相关离线数仓（四）:数仓理论

文章目录一、数仓分层二、范式理论三、关系建模与维度建模四、维度表和事实表 4.1 维度表 4.2 事实表

叁歲伎倆/ 2023年01月02日 10:29/ 0 赞/ 205 阅读

相关离线数仓，实时数仓和准实时数仓的相关架构

1，离线数仓主要借助，hive去实现，相关的业务统计，实时也离不开离线 ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text

超、凢脫俗/ 2022年12月16日 15:26/ 0 赞/ 263 阅读

相关数仓实战01：数仓分层

1.为什么分层 1.1 数仓分层： ![format_png][] 1.2 为什么分层 ![format_png 1][] 2.数据集市和数据仓库概念

谁借莪１个温暖的怀抱￠/ 2022年11月29日 03:17/ 0 赞/ 218 阅读

相关 P1离线数仓_LogServer

文章目录 1 多Module的创建 1.1 Maven 1.2 添加Module 1.3 pom管理 2 code

怼烎@/ 2022年11月25日 13:22/ 0 赞/ 125 阅读

相关电商离线数仓项目-数仓分层哪几层?/数仓为什么要分层?

电商离线数仓数仓分成哪几层? 数仓为什么要分层? 电商离线数仓项目中的数仓数仓分成哪几层? 1、ODS层（原始数据层）:存放原始数据，直接加

今天药忘吃喽~/ 2022年09月14日 01:49/ 0 赞/ 249 阅读

相关离线数仓和实时数仓架构与设计

前言：离线数仓和实时数仓架构与设计讲解离线数仓和实时数仓架构与设计一、数仓架构演变（场景驱动）二、离线大数据架构三、离线数仓分层四、离

素颜马尾好姑娘i/ 2022年09月13日 04:07/ 0 赞/ 298 阅读