Hadoop-Yarn资源调度器

- 日理万妓 2022-10-19 00:51 218阅读 0赞

# Yarn资源调度器 #

**Yarn**是一个资源调度平台,负责为运算程序提供服务器运算资源,相当于一个分布式的**操作系统平台**,而 **MapReduce** 等运算程序则相当于运行于**操作系统之上的应用程序**。

## Yarn基本架构 ##

YARN 主要由 ResourceManager、NodeManager、ApplicationMaster 和 Container 等组件构成

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NsZWFybHhq_size_16_color_FFFFFF_t_70]

通俗的说就是：

RM就是整个集群资源调度的老大；NN是每个节点上的老大；ApplicationMaster是单个Job资源调度的老大；Container负责资源的分配。

## Yarn工作机制 ##

运行机制：

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NsZWFybHhq_size_16_color_FFFFFF_t_70 1]

作业提交阶段：

1、Client 调用 job.waitForCompletion 方法,向整个集群提交 MapReduce 作业。

2、YarnRunner 向 ResourceManager 申请一个 Application，即Client 向 RM 申请一个作业 id。

3、RM 将该应用程序的资源路径和作业id返回给 YarnRunner（Client）。

4、该程序将运行所需资源（jar、切片信息、配置文件）提交到 HDFS 指定的资源提交路径。

5、程序资源提交完毕后,向RM申请运行 mrAppMaster。

作业初始化阶段：

6、RM 将用户的请求初始化成一个 job（Task），并将其添加到容量调度器中。

7、其中有空闲的 NodeManager 领取将会领取 该job。

8、该 NodeManager 创建容器 Container,并产生 MRAppmaster。

9、Container 从 HDFS 上拷贝Client上传的资源到本地。

任务分配阶段：

10、MRAppmaster 向 RM 申请运行多个 MapTask 资源。

11、RM 将运行 MapTask 任务分配给另外两个 NodeManager,另两个 NodeManager分别领取任务并创建容器。

任务运行

12、 MR 向两个接收到任务的 NodeManager 发送程序启动脚本,这两个 NodeManager分别启MapTask,MapTask 对数据分区排序。

13、 MrAppMaster 等待所有 MapTask 运行完毕后,向 RM 申请容器,运行 ReduceTask。

14、ReduceTask 向 MapTask 获取相应分区的数据。

15、程序运行完毕后,MR 会向 RM 申请注销自己。

进度和状态更新：

YARN 中的任务将其进度和状态(包括 counter)返回给AM应用管理器, 客户端Client每秒(通过mapreduce.client.progressmonitor.pollinterval 设置)向应用管理器请求进度更新, 展示给用户。

作业完成

除了向AM请求求作业进度外, 客户端每 5 秒都会通过调用 waitForCompletion()来检查作业是否完成。时间间隔可以通过 mapreduce.client.completion.pollinterval 来设置。作业完成之后,AM和 Container 会清理工作状态。作业的信息会被作业历史服务器存储以备之后用户核查。

MapReduce过程：

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NsZWFybHhq_size_16_color_FFFFFF_t_70 2]

## 资源调度器 ##

目前,Hadoop 作业调度器主要有三种:FIFO、Capacity Scheduler 和 Fair Scheduler。Hadoop2.7.2 默认的资源调度器是 Capacity Scheduler。

具体设置详见: yarn-default.xml 文件

<property>
    	<description>The class to use as the resource scheduler.</description>
        <name>yarn.resourcemanager.scheduler.class</name>	<value>org.apache.hadoop.yarn.server.resourcemanager.scheduler.capacity.CapacityScheduler</value>
    </property>

FIFO队列调度器

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NsZWFybHhq_size_16_color_FFFFFF_t_70 3]

Capacity Scheduler容量调度器  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NsZWFybHhq_size_16_color_FFFFFF_t_70 4]

容量调度器其实就是并发执行的多个FIFO调度器，并加上一些其他的机制。

Fair Scheduler公平调度器  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NsZWFybHhq_size_16_color_FFFFFF_t_70 5]

超高的并发，当集群性能很好的时候可以采用公平调度器。

## 任务的推测执行 ##

**作业完成时间取决于最慢的任务完成时间。**

一个作业由若干个 Map 任务和 Reduce 任务构成。因硬件老化、软件 Bug 等,某些任务可能运行非常慢。

那么系统中有 99%的 Map 任务都完成了,只有少数几个 Map 老是进度很慢,完不成,怎么办?

**推测执行机制**

发现拖后腿的任务,比如某个任务运行速度远慢于任务平均速度。为拖后腿任务启动一个备份任务,同时运行。谁先运行完,则采用谁的结果。

**执行推测任务的前提条件**

1、每个 Task 只能有一个备份任务

2、当前 Job 已完成的 Task 必须不小于 0.05(5%)

3、开启推测执行参数设置。mapred-site.xml 文件中默认是打开的。

<property>
        <name>mapreduce.map.speculative</name>
        <value>true</value>
        <description>If true, then multiple instances of some map tasks may be executed in parallel.</description>
    </property>
    
    <property>
        <name>mapreduce.reduce.speculative</name>
        <value>true</value>
        <description>If true, then multiple instances of some reduce tasks may be executed in parallel.</description>
    </property>

3、不能启用推测执行机制情况

a、任务间存在严重的负载倾斜;、

b、特殊任务,比如任务向数据库中写数据。

推测执行算法原理：

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NsZWFybHhq_size_16_color_FFFFFF_t_70 6]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NsZWFybHhq_size_16_color_FFFFFF_t_70]: /images/20221005/5d4d66cf24474db599501dc8b58d698f.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NsZWFybHhq_size_16_color_FFFFFF_t_70 1]: /images/20221005/74170c15cb2346319d299386f1eaab00.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NsZWFybHhq_size_16_color_FFFFFF_t_70 2]: /images/20221005/a9bb2d3be50841dc8d0f00a8f625786e.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NsZWFybHhq_size_16_color_FFFFFF_t_70 3]: /images/20221005/a23a3c066b7f4648894be57af3a88ef4.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NsZWFybHhq_size_16_color_FFFFFF_t_70 4]: /images/20221005/178da11e50ca4df19a5c505a4f117774.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NsZWFybHhq_size_16_color_FFFFFF_t_70 5]: /images/20221005/edd2ed92c22349898a67f0764173c7ab.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NsZWFybHhq_size_16_color_FFFFFF_t_70 6]: /images/20221005/f5d9e13ae59640668024885c705e64a4.png