RocketMQ (二) 双主双从同步复制集群方案

悠悠 2023-02-22 05:24 281阅读 0赞

### 文章目录 ###

*  部署环境
 *  安装 Rocketmq
 *  建文件夹
 *  配置
 *   *  1. broker-a，a主服务器配置
     *  2. broker-a slave，a从服务器配置
     *  3. broker-b，b主服务器配置
     *  4. broker-b slave，b从服务器配置
     *  配置要点说明
 *  启动
 *   *  1. 启动两个 name server
     *  2. 启动 broker a 的主从两台服务器
     *  3. 启动 broker b 的主从两台服务器
 *  检查启动的服务
 *  启动管理界面

# 部署环境 #

作为测试环境，我们使用两台虚拟机来部署双主双从环境，具体结构如下：

![集群][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl8zODMwNTQ0MA_size_16_color_FFFFFF_t_70]  
整个集群由**两个 name server** 实例和**四个 broker** 实例组成

**name server:**

*  两台服务器分别启动两个name server

**broker A 主从:**

*  服务器1部署 broker A 主服务
 *  服务器2部署 broker A 从服务

**broker B 主从:**

*  服务器2部署 broker B 主服务
 *  服务器1部署 broker B 从服务

# 安装 Rocketmq #

首先参照[《RocketMQ (一) 安装》][RocketMQ _]笔记，在两台虚拟机上安装 Rocketmq。或在一台虚拟机上装好后进行克隆。

# 建文件夹 #

在一台服务器上启动两个 broker 实例，需要为不同实例设置单独的数据存储目录。

为了方便起见，我们在两台服务器上都创建这四个实例所需要的的目录。

mkdir /usr/local/rocketmq/store/
    mkdir /usr/local/rocketmq/store/broker-a
    mkdir /usr/local/rocketmq/store/broker-a/commitlog
    mkdir /usr/local/rocketmq/store/broker-b
    mkdir /usr/local/rocketmq/store/broker-b/commitlog
    mkdir /usr/local/rocketmq/store/broker-as
    mkdir /usr/local/rocketmq/store/broker-as/commitlog
    mkdir /usr/local/rocketmq/store/broker-bs
    mkdir /usr/local/rocketmq/store/broker-bs/commitlog

# 配置 #

在 `rocketmq/conf` 目录下提供了四种集群方案的配置样例

*  2m-2s-async：双主双从异步复制
 *  **2m-2s-sync：双主双从同步复制**
 *  2m-noslave：双主
 *  dledger： raft主从切换

这里我们选择**双主双从同步复制**方案。

## 1. broker-a，a主服务器配置 ##

![a][]

在**服务器1**修改样例配置文件：`rocketmq/conf/2m-2s-sync/broker-a.properties`

在样例配置文件中，添加三项配置：

*  `listenPort`：我们在一台服务器上要运行两个broker实例，所以两个实例的端口要有所区分。这里broker-a主服务器的端口使用默认的10911。
 *  `storePathRootDir`：数据存储目录
 *  `storePathCommitLog`：提交日志存储目录

brokerClusterName=DefaultCluster
    brokerName=broker-a
    brokerId=0
    deleteWhen=04
    fileReservedTime=48
    brokerRole=SYNC_MASTER
    flushDiskType=ASYNC_FLUSH
    
    listenPort=10911
    storePathRootDir=/usr/local/rocketmq/store/broker-a
    storePathCommitLog=/usr/local/rocketmq/store/broker-a/commitlog

## 2. broker-a slave，a从服务器配置 ##

![as][]

在**服务器2**修改样例配置文件：`rocketmq/conf/2m-2s-sync/broker-a-s.properties`

在样例配置文件中，添加三项配置：

*  `listenPort`：我们在一台服务器上要运行两个broker实例，所以两个实例的端口要有所区分。这里broker-a slave从服务器的端口使用11911。
 *  `storePathRootDir`：数据存储目录
 *  `storePathCommitLog`：提交日志存储目录

brokerClusterName=DefaultCluster
    brokerName=broker-a
    brokerId=1
    deleteWhen=04
    fileReservedTime=48
    brokerRole=SLAVE
    flushDiskType=ASYNC_FLUSH
    
    listenPort=11911
    storePathRootDir=/usr/local/rocketmq/store/broker-as
    storePathCommitLog=/usr/local/rocketmq/store/broker-as/commitlog

## 3. broker-b，b主服务器配置 ##

![b][]

在**服务器2**修改样例配置文件：`rocketmq/conf/2m-2s-sync/broker-b.properties`

在样例配置文件中，添加三项配置：

*  `listenPort`：我们在一台服务器上要运行两个broker实例，所以两个实例的端口要有所区分。这里broker-b主服务器的端口使用默认的10911。
 *  `storePathRootDir`：数据存储目录
 *  `storePathCommitLog`：提交日志存储目录

brokerClusterName=DefaultCluster
    brokerName=broker-b
    brokerId=0
    deleteWhen=04
    fileReservedTime=48
    brokerRole=SYNC_MASTER
    flushDiskType=ASYNC_FLUSH
    
    listenPort=10911
    storePathRootDir=/usr/local/rocketmq/store/broker-b
    storePathCommitLog=/usr/local/rocketmq/store/broker-b/commitlog

## 4. broker-b slave，b从服务器配置 ##

![bs][]

在**服务器1**修改样例配置文件：`rocketmq/conf/2m-2s-sync/broker-b-s.properties`

在样例配置文件中，添加三项配置：

*  `listenPort`：我们在一台服务器上要运行两个broker实例，所以两个实例的端口要有所区分。这里broker-b slave从服务器的端口使用11911。
 *  `storePathRootDir`：数据存储目录
 *  `storePathCommitLog`：提交日志存储目录

brokerClusterName=DefaultCluster
    brokerName=broker-b
    brokerId=1
    deleteWhen=04
    fileReservedTime=48
    brokerRole=SLAVE
    flushDiskType=ASYNC_FLUSH
    
    listenPort=11911
    storePathRootDir=/usr/local/rocketmq/store/broker-bs
    storePathCommitLog=/usr/local/rocketmq/store/broker-bs/commitlog

## 配置要点说明 ##

1.  四台服务器的集群名 `brokerClusterName` 相同。集群名称相同的服务器共同组成服务集群 。
2.  从服务器通过名字与主服务器关联在一起，`brokerName` 与主服务器相同。
3.  `brokerId`为0是主服务器。从服务器的值是非零值，例如如果有四个从服务器，他们的 `brokerId` 应该是 1,2,3,4。
4.  `brokerRole`的值为 `SYNC_MASTER` 是同步复制的主服务器。如果是 `ASYNC_MASTER` 则为异步复制的主服务器。

*  **同步复制**：消息复制到从服务器后才向生产者发回反馈信息。
 *  **异步复制**：消息发到主服务器就向生产者发回反馈信息，之后再向从服务器复制。

# 启动 #

## 1. 启动两个 name server ##

![namesrv][]

在两台服务器上启动两个 name server，它们不用做任何集群的配置，都是作为独立服务运行，它们之间也不会进行数据复制。

所有broker服务启动后，要同时连接这两个 name server，向两个 name server 进行注册。

**在两台服务器上都启动 name server**：

nohup sh mqnamesrv &

## 2. 启动 broker a 的主从两台服务器 ##

![a][a 1]

**在服务器1上启动 broker a 主服务器**：

参数说明：

*  **-n参数**：指定name server地址列表，多个地址用分号分隔
 *  **-c参数**：指定配置文件，使用指定的配置文件启动 broker

nohup sh mqbroker \
    -n '192.168.64.151:9876;192.168.64.152:9876' \
    -c $ROCKETMQ_HOME/conf/2m-2s-sync/broker-a.properties \
    &

**在服务器2上启动 broker a 从服务器**：

nohup sh mqbroker \
    -n '192.168.64.151:9876;192.168.64.152:9876' \
    -c $ROCKETMQ_HOME/conf/2m-2s-sync/broker-a-s.properties \
    &

## 3. 启动 broker b 的主从两台服务器 ##

![b][b 1]

**在服务器2上启动 broker b 主服务器**：

nohup sh mqbroker \
    -n '192.168.64.151:9876;192.168.64.152:9876' \
    -c $ROCKETMQ_HOME/conf/2m-2s-sync/broker-b.properties \
    &

**在服务器1上启动 broker b 从服务器**：

nohup sh mqbroker \
    -n '192.168.64.151:9876;192.168.64.152:9876' \
    -c $ROCKETMQ_HOME/conf/2m-2s-sync/broker-b-s.properties \
    &

# 检查启动的服务 #

在两台服务器上分别查看java进程，确认两台服务器上是否各启动了三个java进程，分别运行name server和两个broker。

# 查看 java 进程
    jps 
    
    ---------------------
    12081 NamesrvStartup
    15745 BrokerStartup
    15595 BrokerStartup
    16655 Jps

# 启动管理界面 #

# 进入 rocketmq-console 项目打包文件目录
    cd /usr/local/rocketmq/RocketMQ-Externals/rocketmq-console/target/
    
    # 启动管理界面
    nohup java -jar rocketmq-console-ng-1.0.1.jar \
    --server.port=8080 \
    --rocketmq.config.namesrvAddr='192.168.64.151:9876;192.168.64.152:9876' \
    &

**查看集群状态**：

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl8zODMwNTQ0MA_size_16_color_FFFFFF_t_70_pic_center]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl8zODMwNTQ0MA_size_16_color_FFFFFF_t_70]: https://img-blog.csdnimg.cn/20200709000005103.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl8zODMwNTQ0MA==,size_16,color_FFFFFF,t_70
[RocketMQ _]: https://blog.csdn.net/weixin_38305440/article/details/106963070
[a]: https://img-blog.csdnimg.cn/20200709142712299.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl8zODMwNTQ0MA==,size_16,color_FFFFFF,t_70#pic_center
[as]: https://img-blog.csdnimg.cn/20200709142816923.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl8zODMwNTQ0MA==,size_16,color_FFFFFF,t_70#pic_center
[b]: https://img-blog.csdnimg.cn/20200709142900653.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl8zODMwNTQ0MA==,size_16,color_FFFFFF,t_70#pic_center
[bs]: https://img-blog.csdnimg.cn/20200709142929917.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl8zODMwNTQ0MA==,size_16,color_FFFFFF,t_70#pic_center
[namesrv]: https://img-blog.csdnimg.cn/20200709143211216.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl8zODMwNTQ0MA==,size_16,color_FFFFFF,t_70#pic_center
[a 1]: https://img-blog.csdnimg.cn/20200709144521933.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl8zODMwNTQ0MA==,size_16,color_FFFFFF,t_70#pic_center
[b 1]: https://img-blog.csdnimg.cn/20200709150333945.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl8zODMwNTQ0MA==,size_16,color_FFFFFF,t_70#pic_center
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl8zODMwNTQ0MA_size_16_color_FFFFFF_t_70_pic_center]: https://img-blog.csdnimg.cn/20200709172705572.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl8zODMwNTQ0MA==,size_16,color_FFFFFF,t_70#pic_center