数据仓库之数仓分层及hive分层

爱被打了一巴掌 2022-08-29 10:47 360阅读 0赞

*  [一、数据仓库之数仓分层][Link 1]
    
     *  [（一）为什么要分层？][Link 2]
     *  [（二）数仓三层][Link 3]
        
         *  [1、数据运营层：ODS（Operational Data Store）][1_ODS_Operational Data Store]
         *  [2、数据仓库层：DW（Data Warehouse）][2_DW_Data Warehouse]
         *  [3、数据应用层：APP（Application）][3_APP_Application]
         *  [4、(补充)维表层（Dimension）][4_Dimension]
     *  [（三）案例说明][Link 4]
     *  [（四）技术实践][Link 5]
 *  [二、基于Hive的数据仓库分层][Hive]

## 一、数据仓库之数仓分层 ##

（一）为什么要分层？

大多数情况下，我们完成的数据体系却是依赖复杂、层级混乱的。如下图，在不知不觉的情况下，我们可能会做出一套表依赖结构混乱，甚至出现循环依赖的数据体系。

![1533f8789f535783c6295067f2b20b6d.png][]

因此，我们需要一套行之有效的数据组织和管理方法来让我们的数据体系更有序，这就是谈到的数据分层。数据分层并不能解决所有的数据问题，但是，数据分层却可以给我们带来如下的好处：

*  清晰数据结构：每一个数据分层都有它的作用域和职责，在使用表的时候能更方便地定位和理解
 *  减少重复开发：规范数据分层，开发一些通用的中间层数据，能够减少极大的重复计算
 *  统一数据口径：通过数据分层，提供统一的数据出口，统一对外输出的数据口径
 *  复杂问题简单化：将一个复杂的任务分解成多个步骤来完成，每一层解决特定的问题

（二）数仓三层

**我们将数据模型分为三层：数据运营层（ ODS ）、数据仓库层（DW）和数据应用层（APP）：**

*  ODS层存放的是接入的原始数据
 *  DW层是存放我们要重点设计的数据仓库中间层数据
 *  APP是面向业务定制的应用数据。

1、数据运营层：ODS（Operational Data Store）

“面向主题的”数据运营层，也叫ODS层，是最接近数据源中数据的一层，数据源中的数据，经过抽取、洗净、传输，也就说传说中的 ETL 之后，装入本层。本层的数据，总体上大多是按照源头业务系统的分类方式而分类的。

**一般来讲，为了考虑后续可能需要追溯数据问题，因此对于这一层就不建议做过多的数据清洗工作，原封不动地接入原始数据即可，至于数据的去噪、去重、异常值处理等过程可以放在后面的DWD层来做。**

2、数据仓库层：DW（Data Warehouse）

数据仓库层是我们在做数据仓库时要核心设计的一层，在这里，从 ODS 层中获得的数据按照主题建立各种数据模型。DW层又细分为 DWD（Data Warehouse Detail）层、DWM（Data WareHouse Middle）层和DWS（Data WareHouse Servce）层。

*  1）数据明细层：DWD（Data Warehouse Detail）  
    该层一般保持和ODS层一样的数据粒度，并且提供一定的数据质量保证。同时，为了提高数据明细层的易用性，该层会采用一些维度退化手法，将维度退化至事实表中，减少事实表和维表的关联。  
    另外，在该层也会做一部分的数据聚合，将相同主题的数据汇集到一张表中，提高数据的可用性，后文会举例说明。
 *  2）数据中间层：DWM（Data WareHouse Middle）  
    该层会在DWD层的数据基础上，对数据做轻度的聚合操作，生成一系列的中间表，提升公共指标的复用性，减少重复加工。  
    直观来讲，就是对通用的核心维度进行聚合操作，算出相应的统计指标
 *  3）数据服务层：DWS（Data WareHouse Servce）  
    又称数据集市或宽表。**按照业务划分**，如流量、订单、用户等，生成字段比较多的宽表，用于提供后续的业务查询，OLAP分析，数据分发等。

一般来讲，该层的数据表会相对比较少，一张表会涵盖比较多的业务内容，由于其字段较多，因此一般也会称该层的表为宽表。  
  **在实际计算中，如果直接从DWD或者ODS计算出宽表的统计指标，会存在计算量太大并且维度太少的问题，因此一般的做法是，在DWM层先计算出多个小的中间表，然后再拼接成一张DWS的宽表。由于宽和窄的界限不易界定，也可以去掉DWM这一层，只留DWS层，将所有的数据在放在DWS亦可。**

3、数据应用层：APP（Application）

在这里，**主要是提供给数据产品和数据分析使用的数据**，一般会存放在 ES、PostgreSql、Redis等系统中供线上系统使用，也可能会存在 Hive 或者 Druid 中供数据分析和数据挖掘使用。比如我们经常说的报表数据，一般就放在这里。

4、(补充)维表层（Dimension）

最后补充一个维表层，维表层主要包含两部分数据：  
  高基数维度数据：一般是用户资料表、商品资料表类似的资料表。数据量可能是千万级或者上亿级别。  
  低基数维度数据：一般是配置表，比如枚举值对应的中文含义，或者日期维表。数据量可能是个位数或者几千几万。  
  至此，我们讲完了数据分层设计中每一层的含义，这里做一个总结便于理解，如下图。

![f921f9876f92e9572be32fe0d620ee62.png][]

（三）案例说明

举个栗子说明一下，如下图，可以认为是一个电商网站的数据体系设计。我们暂且只关注用户访问日志这一部分数据。

*  1、在ODS层中，由于各端的开发团队不同或者各种其它问题，用户的访问日志被分成了好几张表上报到了我们的ODS层。
 *  2、为了方便大家的使用，我们在DWD层做了一张用户访问行为天表，在这里，我们将PC网页、H5、小程序和原生APP访问日志汇聚到一张表里面，统一字段名，提升数据质量，这样就有了一张可供大家方便使用的明细表了。
 *  3、在DWM层，我们会从DWD层中选取业务关注的核心维度来做聚合操作，比如只保留人、商品、设备和页面区域维度。类似的，我们这样做了很多个DWM的中间表
 *  4、然后在DWS层，我们将一个人在整个网站中的行为数据放到一张表中，这就是我们的宽表了，有了这张表，就可以快速满足大部分的通用型业务需求了。
 *  5、最后，在APP应用层，根据需求从DWS层的一张或者多张表取出数据拼接成一张应用表即可。

![6a322ddf69e0ca0a83a3ca69ee98c901.png][]

![fb6c5819ccaf5af59c2706356bc4fffe.png][]

（四）技术实践

数据层的存储一般如下：

*  1、Data Source：数据源一般是业务库和埋点，当然也会有第三方购买数据等多种数据来源方式。业务库的存储一般是Mysql 和 PostgreSql。
 *  2、ODS 层：ODS 的数据量一般非常大，所以大多数公司会选择存在HDFS上，即Hive或者Hbase，Hive居多。
 *  3、DW 层：一般和 ODS 的存储一致，但是为了满足更多的需求，也会有存放在 PG 和 ES 中的情况。
 *  4、APP 层：应用层的数据，一般都要求比较快的响应速度，因此一般是放在 Mysql、PG、Redis中。

计算引擎的话，可以简单参考图中所列就行。目前大数据相关的技术更新迭代比较快，本节所列仅为简单参考。

![b284f94f58f75ceaebd6471d0e98bafe.png][]

*  从对应用的支持来讲，**我们希望越靠上层次，越对应用友好。**比如APP层，基本是完全为应用来设计的，很易懂，DWS层的话，相对来讲就会有一点点理解成本，然后DWM和DWD层就比较难理解了，因为它的维度可能会比较多，而且一个需求可能要多张表经过很复杂的计算才能完成。
 *  从能力范围来讲，**我们希望80%需求由20%的表来支持。**直接点讲，就是大部分（80%以上）的需求，都用DWS的表来支持就行，DWS支持不了的，就用DWM和DWD的表来支持，这些都支持不了的极少一部分数据需要从原始日志中捞取。结合第一点来讲的话就是：80%的需求，我们都希望以对应用很友好的方式来支持，而不是直接暴露给应用方原始日志。
 *  从数据聚合程度来讲，**我们希望，越上层数据的聚合程度越高，**看上面的例子即可，ODS和DWD的数据基本是原始日志的粒度，不做任何聚合操作，DWM做了轻度的聚合操作只保留了通用的维度，DWS做了更高的聚合操作，可能只保留一到两个能表征当前描述主体的维度。从这个角度来看，我们又可以理解为我们是按照数据的聚合程度来划分数据层次的。

![5a799a976ab0bd372e022a561dde5a4e.png][]

## 二、基于Hive的数据仓库分层 ##

在原有天级延迟的离线数据处理任务基础上，开发小时级延迟的数据处理链路，将核心数据按小时同步到Hive数仓中，每小时调度一次DAG任务，实现小时级任务计算。任务DAG示意图如下所示：

![dba6fa93b09ed24ce1e3cc4bdcfa75bd.png][]

*  优点：
    
     *  离线和小时级任务各自独立
     *  代码逻辑复用性高，减少开发成本
     *  可以使用离线数据覆盖小时级数据，进行数据修复
 *  缺点：
    
     *  小时级数据的延迟性还是很高，已无法满足业务对数据时效性的要求
     *  MapReduce不适合分钟级频次的任务调度，主要是MapReduce任务启动慢，另外会过高的频次会产生很多小文件，影响HDFS的稳定性，以及SQL on Hadoop系统的查询速度
     *  批量数据处理每次运行对资源要求高，尤其是当凌晨Hadoop资源紧张时，任务经常无法得到调度，延迟严重

[Link 1]: https://www.cnblogs.com/nthforsth/p/15088600.html#%E4%B8%80%E3%80%81%E6%95%B0%E6%8D%AE%E4%BB%93%E5%BA%93%E4%B9%8B%E6%95%B0%E4%BB%93%E5%88%86%E5%B1%82
[Link 2]: https://www.cnblogs.com/nthforsth/p/15088600.html#%EF%BC%88%E4%B8%80%EF%BC%89%E4%B8%BA%E4%BB%80%E4%B9%88%E8%A6%81%E5%88%86%E5%B1%82%EF%BC%9F
[Link 3]: https://www.cnblogs.com/nthforsth/p/15088600.html#%EF%BC%88%E4%BA%8C%EF%BC%89%E6%95%B0%E4%BB%93%E4%B8%89%E5%B1%82
[1_ODS_Operational Data Store]: https://www.cnblogs.com/nthforsth/p/15088600.html#1%E3%80%81%E6%95%B0%E6%8D%AE%E8%BF%90%E8%90%A5%E5%B1%82%EF%BC%9Aods%EF%BC%88operational-data-store%EF%BC%89
[2_DW_Data Warehouse]: https://www.cnblogs.com/nthforsth/p/15088600.html#2%E3%80%81%E6%95%B0%E6%8D%AE%E4%BB%93%E5%BA%93%E5%B1%82%EF%BC%9Adw%EF%BC%88data-warehouse%EF%BC%89
[3_APP_Application]: https://www.cnblogs.com/nthforsth/p/15088600.html#3%E3%80%81%E6%95%B0%E6%8D%AE%E5%BA%94%E7%94%A8%E5%B1%82%EF%BC%9Aapp%EF%BC%88application%EF%BC%89
[4_Dimension]: https://www.cnblogs.com/nthforsth/p/15088600.html#4%E3%80%81%E8%A1%A5%E5%85%85%E7%BB%B4%E8%A1%A8%E5%B1%82%EF%BC%88dimension%EF%BC%89
[Link 4]: https://www.cnblogs.com/nthforsth/p/15088600.html#%EF%BC%88%E4%B8%89%EF%BC%89%E6%A1%88%E4%BE%8B%E8%AF%B4%E6%98%8E
[Link 5]: https://www.cnblogs.com/nthforsth/p/15088600.html#%EF%BC%88%E5%9B%9B%EF%BC%89%E6%8A%80%E6%9C%AF%E5%AE%9E%E8%B7%B5
[Hive]: https://www.cnblogs.com/nthforsth/p/15088600.html#%E4%BA%8C%E3%80%81%E5%9F%BA%E4%BA%8Ehive%E7%9A%84%E6%95%B0%E6%8D%AE%E4%BB%93%E5%BA%93%E5%88%86%E5%B1%82
[1533f8789f535783c6295067f2b20b6d.png]: /images/20220829/b279e8cd8711484da12370e5fc4b8918.png
[f921f9876f92e9572be32fe0d620ee62.png]: /images/20220829/89c814a8a05c404abac2fd2e11d30cb5.png
[6a322ddf69e0ca0a83a3ca69ee98c901.png]: /images/20220829/fb0838de4a1f4e70b711194c3a20e25c.png
[fb6c5819ccaf5af59c2706356bc4fffe.png]: /images/20220829/cf2702b811b4459f8b15897533662083.png
[b284f94f58f75ceaebd6471d0e98bafe.png]: /images/20220829/8ad109abb66c49769a4b4951a75e8420.png
[5a799a976ab0bd372e022a561dde5a4e.png]: /images/20220829/d9efc438af614343ac30c8b25c292d1b.png
[dba6fa93b09ed24ce1e3cc4bdcfa75bd.png]: /images/20220829/82741739ffde4640b5b8d9533e97f62f.png