Hadoop HA高可用环境搭建

Love The Way You Lie 2023-09-27 08:57 139阅读 0赞

**目录**

一：Hadoop HA 高可用

1.1 HA 概述

1.2 HDFS-HA 集群搭建

1.2.1 HDFS-HA 核心问题

1.3 HDFS-HA 手动模式

1.3.1 环境准备

1.3.2 规划集群

1.3.3 配置 HDFS-HA 集群

1.3.4 启动 HDFS-HA 集群

1.4 HDFS-HA 自动模式

1.4.1 HDFS-HA 自动故障转移工作机制

1.4.2 HDFS-HA 自动故障转移的集群规划

1.4.3 配置 HDFS-HA 自动故障转移

1.5 YARN-HA 配置

1.5.1 YARN-HA 工作机制

1.5.2 配置 YARN-HA 集群

1.6 HADOOP HA 的最终规划

--------------------

# 一：Hadoop HA 高可用 #

## 1.1 HA 概述 ##

（1）所谓 HA（High Availablity），即高可用（7\*24 小时不中断服务）。

（2）**实现高可用最关键的策略是消除单点故障**。HA 严格来说应该分成各个组件的 HA

机制：HDFS 的 HA 和 YARN 的 HA。

（3）NameNode 主要在以下两个方面影响 HDFS 集群

➢ NameNode 机器发生意外，如宕机，集群将无法使用，直到管理员重启

➢ NameNode 机器需要升级，包括软件、硬件升级，此时集群也将无法使用 HDFS HA 功能通过配置多个 NameNodes(Active/Standby)实现在集群中对 NameNode 的 热备来解决上述问题。如果出现故障，如机器崩溃或机器需要升级维护，这时可通过此种方式将 NameNode 很快的切换到另外一台机器。

## 1.2 HDFS-HA 集群搭建 ##

![06fd2c24adc24269a0098e3608e439a9.png][]

### 1.2.1 HDFS-HA 核心问题 ###

**1）怎么保证三台 namenode 的数据一致**

a.Fsimage:让一台 nn 生成数据,让其他机器 nn 同步

b.Edits:需要引进新的模块 JournalNode 来保证 edtis 的文件的数据一致性

**2）怎么让同时只有一台 nn 是 active，其他所有是 standby 的**

a.手动分配 b.自动分配

**3）2nn 在 ha 架构中并不存在，定期合并 fsimage 和 edtis 的活谁来干**

由 standby 的 nn 来干

**4）如果 nn 真的发生了问题，怎么让其他的 nn 上位干活**

a.手动故障转移

b.自动故障转移

## 1.3 HDFS-HA 手动模式 ##

### 1.3.1 环境准备 ###

（1）修改 IP

（2）修改主机名及主机名和 IP 地址的映射

（3）关闭防火墙

（4）ssh 免密登录

（5）安装 JDK，配置环境变量等

### 1.3.2 规划集群 ###

![72859286ee27496bbf641e4f137f4dfe.png][]

### 1.3.3 配置 HDFS-HA 集群 ###

1）官方地址：http://hadoop.apache.org/

2）在 opt 目录下创建一个 ha 文件夹

[atguigu@hadoop102 ~]$ cd /opt 
    [atguigu@hadoop102 opt]$ sudo mkdir ha 
    [atguigu@hadoop102 opt]$ sudo chown atguigu:atguigu /opt/ha

3）将/opt/module/下的 hadoop-3.1.3 拷贝到/opt/ha 目录下（记得删除 data 和 log 目录）

[atguigu@hadoop102 opt]$ cp -r /opt/module/hadoop-3.1.3 /opt/ha/

**4）配置 core-site.xml**(注意：这里要把以前配置过的信息全部删除)

<configuration> 
     
     <property> 
     <name>fs.defaultFS</name>  <value>hdfs://mycluster</value> 
     </property> 
     
    
     <property> 
     <name>hadoop.tmp.dir</name> 
     <value>/opt/ha/hadoop-3.1.3/data</value> 
     </property> 
    </configuration>

**5）配置 hdfs-site.xml**(注意：这里要把以前配置过的信息全部删除)

<configuration> 
     
    
     <property> 
     <name>dfs.namenode.name.dir</name> 
     <value>file://${hadoop.tmp.dir}/name</value> 
     </property> 
     
    
     <property> 
     <name>dfs.datanode.data.dir</name> 
     <value>file://${hadoop.tmp.dir}/data</value> 
     </property> 
     
     <property> 
     <name>dfs.journalnode.edits.dir</name> 
     <value>${hadoop.tmp.dir}/jn</value> 
     </property> 
     
    
     <property> 
     <name>dfs.nameservices</name> 
     <value>mycluster</value> 
     </property> 
     
    
     <property> 
     <name>dfs.ha.namenodes.mycluster</name> 
     <value>nn1,nn2,nn3</value> 
     </property> 
     
    
     <property> 
     <name>dfs.namenode.rpc-address.mycluster.nn1</name> 
     <value>hadoop102:8020</value> 
     </property> 
     <property> 
     <name>dfs.namenode.rpc-address.mycluster.nn2</name> 
     <value>hadoop103:8020</value> 
     </property>  <property> 
     <name>dfs.namenode.rpc-address.mycluster.nn3</name> 
     <value>hadoop104:8020</value> 
     </property> 
     
    
     <property> 
     <name>dfs.namenode.http-address.mycluster.nn1</name> 
     <value>hadoop102:9870</value> 
     </property> 
     <property> 
     <name>dfs.namenode.http-address.mycluster.nn2</name> 
     <value>hadoop103:9870</value> 
     </property> 
     <property> 
     <name>dfs.namenode.http-address.mycluster.nn3</name> 
     <value>hadoop104:9870</value> 
     </property> 
     
    
     <property> 
    <name>dfs.namenode.shared.edits.dir</name> 
    <value>qjournal://hadoop102:8485;hadoop103:8485;hadoop104:8485/myclus
    ter</value> 
     </property> 
     
    
     <property> 
     <name>dfs.client.failover.proxy.provider.mycluster</name> 
     
    <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyP
    rovider</value> 
     </property> 
     
    
     <property> 
     <name>dfs.ha.fencing.methods</name> 
     <value>sshfence</value> 
     </property> 
     
    
     <property> 
     <name>dfs.ha.fencing.ssh.private-key-files</name> 
     <value>/home/atguigu/.ssh/id_rsa</value> 
     </property> 
    </configuration>

6）分发配置好的 hadoop 环境到其他节点

### 1.3.4 启动 HDFS-HA 集群 ###

1）将 HADOOP\_HOME 环境变量更改到 HA 目录(三台机器)

[atguigu@hadoop102 ~]$ sudo vim /etc/profile.d/my_env.sh

将 HADOOP_HOME 部分改为如下 
    
    #HADOOP_HOME 
    export HADOOP_HOME=/opt/ha/hadoop-3.1.3 
    export PATH=$PATH:$HADOOP_HOME/bin 
    export PATH=$PATH:$HADOOP_HOME/sbin

去三台机器上 source 环境变量

[atguigu@hadoop102 ~]$source /etc/profile

2）在各个 JournalNode 节点上，输入以下命令启动 journalnode 服务

[atguigu@hadoop102 ~]$ hdfs --daemon start journalnode 
    [atguigu@hadoop103 ~]$ hdfs --daemon start journalnode 
    [atguigu@hadoop104 ~]$ hdfs --daemon start journalnode

3）在\[nn1\]上，对其进行格式化，并启动

[atguigu@hadoop102 ~]$ hdfs namenode -format 
    [atguigu@hadoop102 ~]$ hdfs --daemon start namenode

4）在\[nn2\]和\[nn3\]上，同步 nn1 的元数据信息

[atguigu@hadoop103 ~]$ hdfs namenode -bootstrapStandby 
    [atguigu@hadoop104 ~]$ hdfs namenode -bootstrapStandby

5）启动\[nn2\]和\[nn3\]

[atguigu@hadoop103 ~]$ hdfs --daemon start namenode 
    [atguigu@hadoop104 ~]$ hdfs --daemon start namenode

6）查看 web 页面显示（hadoop102:9870）

7）在所有节点上，启动 datanode

[atguigu@hadoop102 ~]$ hdfs --daemon start datanode 
    [atguigu@hadoop103 ~]$ hdfs --daemon start datanode 
    [atguigu@hadoop104 ~]$ hdfs --daemon start datanode

8）将\[nn1\]切换为 Active

[atguigu@hadoop102 ~]$ hdfs haadmin -transitionToActive nn1

9）查看是否 Active

[atguigu@hadoop102 ~]$ hdfs haadmin -getServiceState nn1

## 1.4 HDFS-HA 自动模式 ##

### 1.4.1 HDFS-HA 自动故障转移工作机制 ###

> 自动故障转移为 HDFS 部署增加了两个新组件：ZooKeeper 和 ZKFailoverController
> 
> （ZKFC）进程，如图所示。ZooKeeper 是维护少量协调数据，通知客户端这些数据的改变 和监视客户端故障的高可用服务。

**HDFS-HA故障转移机制 :**

![2066d17f90ee47f284177ca19787e0d5.png][]

（1）假如标记为active的namenode没有和其他的namenode连接成功（假死），或者标记为active已经终止

（2）标记为active的namenode的对应的Zkfc则会检测到假死

（3）检测都假死后，则会通知另一台namenode节点的Zkfc

（4）Zkfc会强行杀死namenode，防止脑裂，ssh -9 namenode进程号

（5）如果ssh补刀失败则调用用户自定义脚本程序

（6）获取命令运行结果

（7）激活本台namenode，切换为Active

--------------------

### 1.4.2 HDFS-HA 自动故障转移的集群规划 ###

![1f0114ebe018471b9aad54d51ccfe9a9.png][]

### 1.4.3 配置 HDFS-HA 自动故障转移 ###

**1）具体配置**

（1）在 hdfs-site.xml 中增加

<property> 
     <name>dfs.ha.automatic-failover.enabled</name> 
     <value>true</value> 
    </property>

（2）在 core-site.xml 文件中增加

<property> 
     <name>ha.zookeeper.quorum</name> 
     <value>hadoop102:2181,hadoop103:2181,hadoop104:2181</value> 
    </property>

（3）修改后分发配置文件

[atguigu@hadoop102 etc]$ pwd 
    /opt/ha/hadoop-3.1.3/etc 
    [atguigu@hadoop102 etc]$ xsync hadoop/

**2）启动**

（1）关闭所有 HDFS 服务：

[atguigu@hadoop102 ~]$ stop-dfs.sh

（2）启动 Zookeeper 集群：

[atguigu@hadoop102 ~]$ zkServer.sh start 
    [atguigu@hadoop103 ~]$ zkServer.sh start 
    [atguigu@hadoop104 ~]$ zkServer.sh start

（3）启动 Zookeeper 以后，然后再初始化 HA 在 Zookeeper 中状态：

[atguigu@hadoop102 ~]$ hdfs zkfc -formatZK

（4）启动 HDFS 服务：

[atguigu@hadoop102 ~]$ start-dfs.sh

（5）可以去 zkCli.sh 客户端查看 Namenode 选举锁节点内容：

[zk: localhost:2181(CONNECTED) 7] get -s 
    /hadoop-ha/mycluster/ActiveStandbyElectorLock

**3）验证**

（1）将 Active NameNode 进程 kill，查看网页端三台 Namenode 的状态变化

[atguigu@hadoop102 ~]$ kill -9 namenode 的进程 id

## 1.5 YARN-HA 配置 ##

### 1.5.1 YARN-HA 工作机制 ###

YARN-HA 工作机制

![99caf9f614db4de4b28e37046ea2ad78.png][]

### 1.5.2 配置 YARN-HA 集群 ###

**1）环境准备**

（1）修改 IP

（2）修改主机名及主机名和 IP 地址的映射

（3）关闭防火墙

（4）ssh 免密登录

（5）安装 JDK，配置环境变量等

（6）配置 Zookeeper 集群

**2）规划集群**

![911644c3102a44d092fd4b9df830809b.png][]

**3）核心问题**

a .如果当前 active rm 挂了，其他 rm 怎么将其他 standby rm 上位

> 核心原理跟 hdfs 一样，利用了 zk 的临时节点

b. 当前 rm 上有很多的计算程序在等待运行,其他的 rm 怎么将这些程序接手过来接着跑

> rm 会将当前的所有计算程序的状态存储在 zk 中,其他 rm 上位后会去读取，然后接 着跑

**4）具体配置**

（1）yarn-site.xml

<configuration> 
     
     <property> 
     <name>yarn.nodemanager.aux-services</name> 
     <value>mapreduce_shuffle</value> 
     </property> 
     
      
     <property> 
     <name>yarn.resourcemanager.ha.enabled</name> 
     <value>true</value> 
     </property> 
     
      
     <property> 
     <name>yarn.resourcemanager.cluster-id</name> 
     <value>cluster-yarn1</value> 
     </property> 
      
     <property> 
     <name>yarn.resourcemanager.ha.rm-ids</name> 
     <value>rm1,rm2,rm3</value> 
    </property> 
     
     
     <property> 
     <name>yarn.resourcemanager.hostname.rm1</name> 
     <value>hadoop102</value> 
    </property> 
     
    <property> 
     <name>yarn.resourcemanager.webapp.address.rm1</name> 
     <value>hadoop102:8088</value> 
    </property> 
     
    <property> 
     <name>yarn.resourcemanager.address.rm1</name> 
     <value>hadoop102:8032</value> 
    </property> 
     
    <property>  <name>yarn.resourcemanager.scheduler.address.rm1</name> 
     <value>hadoop102:8030</value> 
    </property> 
     
    <property> 
     <name>yarn.resourcemanager.resource-tracker.address.rm1</name> 
     <value>hadoop102:8031</value> 
    </property> 
     
      
     <property> 
     <name>yarn.resourcemanager.hostname.rm2</name> 
     <value>hadoop103</value> 
    </property> 
    <property> 
     <name>yarn.resourcemanager.webapp.address.rm2</name> 
     <value>hadoop103:8088</value> 
    </property> 
    <property> 
     <name>yarn.resourcemanager.address.rm2</name> 
     <value>hadoop103:8032</value> 
    </property> 
    <property> 
     <name>yarn.resourcemanager.scheduler.address.rm2</name> 
     <value>hadoop103:8030</value> 
    </property> 
    <property> 
     <name>yarn.resourcemanager.resource-tracker.address.rm2</name> 
     <value>hadoop103:8031</value> 
    </property> 
      
     
     <property> 
     <name>yarn.resourcemanager.hostname.rm3</name> 
     <value>hadoop104</value> 
    </property> 
     
    <property> 
     <name>yarn.resourcemanager.webapp.address.rm3</name> 
     <value>hadoop104:8088</value> 
    </property> 
     
    <property> 
     <name>yarn.resourcemanager.address.rm3</name>  <value>hadoop104:8032</value> 
    </property> 
     
    <property> 
     <name>yarn.resourcemanager.scheduler.address.rm3</name> 
     <value>hadoop104:8030</value> 
    </property> 
     
    <property> 
     <name>yarn.resourcemanager.resource-tracker.address.rm3</name> 
     <value>hadoop104:8031</value> 
    </property> 
      
     <property> 
     <name>yarn.resourcemanager.zk-address</name> 
     <value>hadoop102:2181,hadoop103:2181,hadoop104:2181</value> 
     </property> 
     
      
     <property> 
     <name>yarn.resourcemanager.recovery.enabled</name> 
     <value>true</value> 
     </property> 
     
      
     <property> 
     <name>yarn.resourcemanager.store.class</name> 
    <value>org.apache.hadoop.yarn.server.resourcemanager.recovery.ZKRMStateSt
    ore</value> 
    </property> 
     
     <property> 
     <name>yarn.nodemanager.env-whitelist</name> 
     
    <value>JAVA_HOME,HADOOP_COMMON_HOME,HADOOP_HDFS_HOME,HADOOP_CONF_DIR,CLAS
    SPATH_PREPEND_DISTCACHE,HADOOP_YARN_HOME,HADOOP_MAPRED_HOME</value> 
     </property> 
    
     
    </configuration>

**（2）同步更新其他节点的配置信息，分发配置文件**

[atguigu@hadoop102 etc]$ xsync hadoop/

**4）启动 YARN**

（1）在 hadoop102 或者 hadoop103 中执行：

[atguigu@hadoop102 ~]$ start-yarn.sh

（2）查看服务状态

[atguigu@hadoop102 ~]$ yarn rmadmin -getServiceState rm1

（3）可以去 zkCli.sh 客户端查看 ResourceManager 选举锁节点内容：

[atguigu@hadoop102 ~]$ zkCli.sh 
    [zk: localhost:2181(CONNECTED) 16] get -s 
    /yarn-leader-election/cluster-yarn1/ActiveStandbyElectorLock

（4）web 端查看 hadoop102:8088 和 hadoop103:8088 的 YARN 的状态

## 1.6 HADOOP HA 的最终规划 ##

将整个 ha 搭建完成后,集群将形成以下模样

![405cc5bb2666463197f86651b99f254d.png][]

[06fd2c24adc24269a0098e3608e439a9.png]: https://img-blog.csdnimg.cn/06fd2c24adc24269a0098e3608e439a9.png
[72859286ee27496bbf641e4f137f4dfe.png]: https://img-blog.csdnimg.cn/72859286ee27496bbf641e4f137f4dfe.png
[2066d17f90ee47f284177ca19787e0d5.png]: https://img-blog.csdnimg.cn/2066d17f90ee47f284177ca19787e0d5.png
[1f0114ebe018471b9aad54d51ccfe9a9.png]: https://img-blog.csdnimg.cn/1f0114ebe018471b9aad54d51ccfe9a9.png
[99caf9f614db4de4b28e37046ea2ad78.png]: https://img-blog.csdnimg.cn/99caf9f614db4de4b28e37046ea2ad78.png
[911644c3102a44d092fd4b9df830809b.png]: https://img-blog.csdnimg.cn/911644c3102a44d092fd4b9df830809b.png
[405cc5bb2666463197f86651b99f254d.png]: https://img-blog.csdnimg.cn/405cc5bb2666463197f86651b99f254d.png