Zookeeper的安装与配置（单机和伪分布式）

喜欢ヅ旅行 2022-07-24 10:16 227阅读 0赞

**前言**

> 云计算越来越流行的今天，单一机器处理能力已经不能满足我们的需求，不得不采用大量的服务集群。服务集群对外提供服务的过程中，有很多的配置需要随时更新，服务间需要协调工作，这些信息如何推送到各个节点？并且保证信息的一致性和可靠性？

**一. Zookeeper概念**  
既然要想使用Zookeeper，那么我们就要搞清楚它是什么，它是用来做什么的, 总体结构是怎样的？！

*Zookeeper 是什么？*

> [Zookeeper][] 分布式服务框架是 Apache Hadoop 的一个子项目，它主要是用来解决分布式应用中经常遇到的一些数据管理问题，如：统一命名服务、状态同步服务、集群管理、分布式应用配置项的管理等。本文将从使用者角度详细介绍 Zookeeper 的安装和配置。

*Zookeeper 用来做什么的？*

> Zookeeper 作为一个分布式的服务框架，主要用来解决分布式集群中应用系统的一致性问题，它能提供基于类似于文件系统的目录节点树方式的数据存储，但是 Zookeeper 并不是用来专门存储数据的，它的作用主要是用来维护和监控你存储的数据的状态变化。通过监控这些数据状态的变化，从而可以达到基于数据的集群管理。下一部分会详细介绍一下ZooKeeper 典型的应用场景。

*Zookeeper 总体结构是怎样的？*

> Zookeeper服务自身组成一个集群(2n+1个服务允许n个失效)。Zookeeper服务有两个角色，一个是leader，负责写服务和数据同步，剩下的是follower，提供读服务，leader失效后会在follower中重新选举新的leader。  
> Zookeeper逻辑图如下：  
> ![这里写图片描述][20160520145430128]  
> 1. 客户端可以连接到每个server，每个server的数据完全相同。  
> 2. 每个follower都和leader有连接，接受leader的数据更新操作。  
> 3. Server记录事务日志和快照到持久存储。  
> 4. 大多数server可用，整体服务就可用。

**二. Zookeeper典型的应用场景**

Zookeeper 从设计模式角度来看，是一个基于观察者模式设计的分布式服务管理框架，它负责存储和管理大家都关心的数据，然后接受观察者的注册，一旦这些数据的状态发生变化，Zookeeper 就将负责通知已经在 Zookeeper 上注册的那些观察者做出相应的反应，从而实现集群中类似 Master/Slave 管理模式，关于 Zookeeper 的详细架构等内部细节可以阅读 Zookeeper 的源码。

*下面详细介绍这些典型的应用场景，也就是 Zookeeper 到底能帮我们解决那些问题？下面将给出答案。*

*  **统一命名服务（Name Service）**

> 分布式应用中，通常需要有一套完整的命名规则，既能够产生唯一的名称又便于人识别和记住，通常情况下用树形的名称结构是一个理想的选择，树形的名称结构是一个有层次的目录结构，既对人友好又不会重复。说到这里你可能想到了 JNDI，没错 Zookeeper 的 Name Service 与 JNDI 能够完成的功能是差不多的，它们都是将有层次的目录结构关联到一定资源上，但是 Zookeeper 的 Name Service 更加是广泛意义上的关联，也许你并不需要将名称关联到特定资源上，你可能只需要一个不会重复名称，就像数据库中产生一个唯一的数字主键一样。
> 
> Name Service 已经是 Zookeeper 内置的功能，你只要调用 Zookeeper 的 API 就能实现。如调用 create 接口就可以很容易创建一个目录节点。

*  **配置管理（Configuration Management）**

> 配置的管理在分布式应用环境中很常见，例如同一个应用系统需要多台 PC Server 运行，但是它们运行的应用系统的某些配置项是相同的，如果要修改这些相同的配置项，那么就必须同时修改每台运行这个应用系统的 PC Server，这样非常麻烦而且容易出错。
> 
> 像这样的配置信息完全可以交给 Zookeeper 来管理，将配置信息保存在 Zookeeper 的某个目录节点中，然后将所有需要修改的应用机器监控配置信息的状态，一旦配置信息发生变化，每台应用机器就会收到 Zookeeper 的通知，然后从 Zookeeper 获取新的配置信息应用到系统中。
> 
> 配置管理结构图：  
> ![这里写图片描述][20160520145917119]

*  **集群管理（Group Membership）**

> Zookeeper 能够很容易的实现集群管理的功能，如有多台 Server 组成一个服务集群，那么必须要一个“总管”知道当前集群中每台机器的服务状态，一旦有机器不能提供服务，集群中其它集群必须知道，从而做出调整重新分配服务策略。同样当增加集群的服务能力时，就会增加一台或多台 Server，同样也必须让“总管”知道。
> 
> Zookeeper 不仅能够帮你维护当前的集群中机器的服务状态，而且能够帮你选出一个“总管”，让这个总管来管理集群，这就是 Zookeeper 的另一个功能 Leader Election。
> 
> 它们的实现方式都是在 Zookeeper 上创建一个 EPHEMERAL 类型的目录节点，然后每个 Server 在它们创建目录节点的父目录节点上调用 getChildren(String path, boolean watch) 方法并设置 watch 为 true，由于是 EPHEMERAL 目录节点，当创建它的Server 死去，这个目录节点也随之被删除，所以 Children 将会变化，这时getChildren上的 Watch 将会被调用，所以其它 Server 就知道已经有某台 Server 死去了。新增 Server 也是同样的原理。
> 
> Zookeeper 如何实现 Leader Election，也就是选出一个 Master Server。和前面的一样每台 Server 创建一个 EPHEMERAL 目录节点，不同的是它还是一个 SEQUENTIAL 目录节点，所以它是个 EPHEMERAL\_SEQUENTIAL 目录节点。之所以它是EPHEMERAL\_SEQUENTIAL 目录节点，是因为我们可以给每台 Server 编号，我们可以选择当前是最小编号的 Server 为 Master，假如这个最小编号的 Server 死去，由于是 EPHEMERAL 节点，死去的 Server 对应的节点也被删除，所以当前的节点列表中又出现一个最小编号的节点，我们就选择这个节点为当前 Master。这样就实现了动态选择 Master，避免了传统意义上单 Master 容易出现单点故障的问题。

*  **队列管理**  
    
    
    >   
    > Zookeeper 可以处理两种类型的队列：  
    > 1. 当一个队列的成员都聚齐时，这个队列才可用，否则一直等待所有成员到达，这种是 同步队列。  
    > 
    > 
    > 1.  队列按照 FIFO 方式进行入队和出队操作，例如实现生产者和消费者模型。  
    >     *同步队列用 Zookeeper 实现的实现思路如下：*  
    >     创建一个父目录 /synchronizing，每个成员都监控标志（Set Watch）位目录 /synchronizing/start 是否存在，然后每个成员都加入这个队列，加入队列的方式就是创建 /synchronizing/member\_i 的临时目录节点，然后每个成员获取 / synchronizing 目录的所有目录节点，也就是 member\_i。判断 i 的值是否已经是成员的个数，如果小于成员个数等待 /synchronizing/start 的出现，如果已经相等就创建 /synchronizing/start。

\*\*三. Zookeeper 的安装和配置\*\* 安装可以分为两种方式：单机模式和集群模式。本文搭建的系统环境为windows。

*  **单机模式**
    
    > 单机模式的搭建是很简单的，从apache官网下载[zookeeper][]，我下载的zookeeper版本是3.4.8。下载完成后将其解压。
    > 
    > 1.  进入目录zookeeper-3.4.8\\conf，复制zoo\_sample.cfg并将其重命名为zoo.cfg。
    > 2.  在zoo.cfg中配置如下属性  
    >     `tickTime=2000 dataDir=/var/lib/zookeeper clientPort=2181`
    > 3.  启动zookeeper  
    >     双击zookeeper-3.4.8\\bin\\zkServer.cmd即可
    
    下面对上述三个属性的意义进行讲解：
    
    > tickTime：这个时间是作为 Zookeeper 服务器之间或客户端与服务器之间维持心跳的时间间隔，也就是每个 tickTime 时间就会发送一个心跳。
    > 
    > dataDir：顾名思义就是 Zookeeper 保存数据的目录，默认情况下，Zookeeper 将写数据的日志文件也保存在这个目录里。
    > 
    > clientPort：这个端口就是客户端连接 Zookeeper 服务器的端口，Zookeeper 会监听这个端口，接受客户端的访问请求。  
    >

关于单机模式的配置，可以参考[官网给出的配置详解][Link 1]

*  **集群模式**
    
    > Zookeeper 不仅可以单机提供服务，同时也支持多机组成集群来提供服务。实际上 Zookeeper 还支持另外一种伪集群的方式，也就是可以在一台物理机上运行多个 Zookeeper 实例，下面将介绍集群模式的安装和配置。由于集群模式和伪集群模式配置差不多，所以本节以伪集群模式进行讲解。  
    > 假设我们要创建三个服务器
    > 
    > 1.  在本地创建三个目录分别是server1，server2， server3。代表三台服务器。  
    >     ![这里写图片描述][20160608102526085]
    > 2.  将下载下来的zookeeper-3.4.8分别复制到上述的三个目录中，并分别在三个目录下创建data和logs子文件夹。  
    >     ![这里写图片描述][20160608102706633]
    > 3.  Zookeeper 的配置文件主要在 conf 目录，包括zoo.cfg (zoo\_sample.cfg)和log4j.properties。将server1中的\\server1\\zookeeper-3.4.8\\conf\\zoo\_sample.cfg重命名为zoo.cfg，配置之后的内容如下（server2，server3也按照此配置）：

# The number of milliseconds of each tick
    tickTime=2000
    # The number of ticks that the initial 
    # synchronization phase can take
    initLimit=10
    # The number of ticks that can pass between 
    # sending a request and getting an acknowledgement
    syncLimit=5
    # the directory where the snapshot is stored.
    # do not use /tmp for storage, /tmp here is just 
    # example sakes.
    dataDir=D:/ZookeeperServer/server1/data
    dataLogDir=D:/ZookeeperServer/server1/logs
    # the port at which the clients will connect
    clientPort=2181
    # the maximum number of client connections.
    # increase this if you need to handle more clients
    #maxClientCnxns=60
    #
    # Be sure to read the maintenance section of the 
    # administrator guide before turning on autopurge.
    #
    # http://zookeeper.apache.org/doc/current/zookeeperAdmin.html#sc_maintenance
    #
    # The number of snapshots to retain in dataDir
    #autopurge.snapRetainCount=3
    # Purge task interval in hours
    # Set to "0" to disable auto purge feature
    #autopurge.purgeInterval=1
    server.1=127.0.0.1:2888:3888
    server.2=127.0.0.1:2889:3889
    server.3=127.0.0.1:2890:3890

属性讲解：

> tickTime：这个时间是作为 Zookeeper 服务器之间或客户端与服务器之间维持心跳的时间间隔，也就是每个 tickTime 时间就会发送一个心跳。
> 
> clientPort：这个端口就是客户端连接 Zookeeper 服务器的端口，Zookeeper 会监听这个端口，接受客户端的访问请求。
> 
> initLimit：这个配置项是用来配置 Zookeeper 接受客户端（这里所说的客户端不是用户连接 Zookeeper 服务器的客户端，而是 Zookeeper 服务器集群中连接到 Leader 的 Follower 服务器）初始化连接时最长能忍受多少个心跳时间间隔数。当已经超过 5个心跳的时间（也就是 tickTime）长度后 Zookeeper 服务器还没有收到客户端的返回信息，那么表明这个客户端连接失败。总的时间长度就是 5\*2000=10 秒
> 
> syncLimit：这个配置项标识 Leader 与 Follower 之间发送消息，请求和应答时间长度，最长不能超过多少个 tickTime 的时间长度，总的时间长度就是 2\*2000=4 秒
> 
> server.A=B：C：D：其中 A 是一个数字，表示这个是第几号服务器；B 是这个服务器的 ip 地址；C 表示的是这个服务器与集群中的 Leader 服务器交换信息的端口；D 表示的是万一集群中的 Leader 服务器挂了，需要一个端口来重新进行选举，选出一个新的 Leader，而这个端口就是用来执行选举时服务器相互通信的端口。如果是伪集群的配置方式，由于 B 都是一样，所以不同的 Zookeeper 实例通信端口号不能一样，所以要给它们分配不同的端口号。
> 
> 注意：在server2中应配置 clientPort=2182，与 server1 中的 clientPort=2181 不同，后续修改配置均需设置不同的 clientPort
> 
> 4.. 在server1\\data\\中创建文件myid，打开该文件并在该文件中写上数字1。server2中myid的内容为数字2，server3中的myid为数字3。

配置之后的文件夹结构如下：

├── server1
    │   ├── data
    │   ├── logs
    │   └── zookeeper-3.4.8
    ├── server2
    │   ├── data
    │   ├── logs
    │   └── zookeeper-3.4.8
    ├── server3
         ├── data
         ├── logs
         └── zookeeper-3.4.8

> 5..然后依次进入每个文件夹节点的zookeeper-3.4.8\\bin目录中，启动zookeeper服务，双击zkServer.cmd  
> 6. 如果一切顺利，Zookeeper 伪分布式模式安装成功，下面验证 Zookeeper 安装的正确性。  
> 进入任意一个文件夹节点的zookeeper-3.4.8\\bin包所在的目录，执行zkCli.cmd。  
> 出现Welcome to ZooKeeper!，表示成功

Welcome to ZooKeeper!
    2016-06-08 11:00:01,598 [myid:] - INFO  [main-SendThread(127.0.0.1:2181):ClientCnxn$SendThread@1032]
     - Opening socket connection to server 127.0.0.1/127.0.0.1:2181. Will not attempt to authenticate us
    ing SASL (java.lang.SecurityException: 无法定位登录配置)
    JLine support is enabled
    2016-06-08 11:00:01,600 [myid:] - INFO  [main-SendThread(127.0.0.1:2181):ClientCnxn$SendThread@876]
    - Socket connection established to 127.0.0.1/127.0.0.1:2181, initiating session
    [zk: localhost:2181(CONNECTING) 0] 2016-06-08 11:00:01,722 [myid:] - INFO  [main-SendThread(127.0.0.
    1:2181):ClientCnxn$SendThread@1299] - Session establishment complete on server 127.0.0.1/127.0.0.1:2
    181, sessionid = 0x1552df39b2d0000, negotiated timeout = 30000
    
    WATCHER::
    
    WatchedEvent state:SyncConnected type:None path:null

好了，大家试试吧

[Zookeeper]: http://zookeeper.apache.org/
[20160520145430128]: /images/20220722/f4a5d93a5de948aabc99813ad6bca946.png
[20160520145917119]: /images/20220722/3168db415e5647239a11de24cd728ecf.png
[zookeeper]: http://zookeeper.apache.org/releases.html#download
[Link 1]: http://zookeeper.apache.org/doc/current/zookeeperStarted.html#sc_InstallingSingleMode
[20160608102526085]: /images/20220722/fe2dca0c5481443f8610e0893560cca4.png
[20160608102706633]: /images/20220722/bad3b9826c5b4f11a07e71ad662f9ad0.png