SpringBoot整合RocketMq之===RocketMq集群（双主双从-2台机器）（无废话版）--------------------------------------------（三）

悠悠 2022-12-29 14:16 203阅读 0赞

# 首先每台机器都要保证有rocketmq，可以按照单机rockemq来整到4台机器上。操作都是一样子的。 #

# 都成功以后才能进行2个机器的安装。 #

# 2台机器修改  /etc/hosts（每台机器都要修改） #

# 代码地址：[https://github.com/heidaodageshiwo/springboot\_rocketmq2][https_github.com_heidaodageshiwo_springboot_rocketmq2] #

## 3.3 双主双从集群搭建 ##

### 3.3.1 总体架构 ###

消息高可用采用2m-2s（同步双写）方式

### 3.3.2 集群工作流程 ###

1.  启动NameServer，NameServer起来后监听端口，等待Broker、Producer、Consumer连上来，相当于一个路由控制中心。
2.  Broker启动，跟所有的NameServer保持长连接，定时发送心跳包。心跳包中包含当前Broker信息(IP+端口等)以及存储所有Topic信息。注册成功后，NameServer集群中就有Topic跟Broker的映射关系。
3.  收发消息前，先创建Topic，创建Topic时需要指定该Topic要存储在哪些Broker上，也可以在发送消息时自动创建Topic。
4.  Producer发送消息，启动时先跟NameServer集群中的其中一台建立长连接，并从NameServer中获取当前发送的Topic存在哪些Broker上，轮询从队列列表中选择一个队列，然后与队列所在的Broker建立长连接从而向Broker发消息。
5.  Consumer跟Producer类似，跟其中一台NameServer建立长连接，获取当前订阅Topic存在哪些Broker上，然后直接跟Broker建立连接通道，开始消费消息。

### 3.3.3 服务器环境 ###

<table> 
 <thead> 
  <tr> 
   <th><strong>序号</strong></th> 
   <th><strong>IP</strong></th> 
   <th>&nbsp;</th> 
   <th><strong>角色</strong></th> 
   <th><strong>架构模式</strong></th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>1</td> 
   <td>192.168.56.200</td> 
   <td>&nbsp;</td> 
   <td>nameserver、brokerserver</td> 
   <td>Master1、Slave2</td> 
  </tr> 
  <tr> 
   <td>2</td> 
   <td>192.168.56.201</td> 
   <td>&nbsp;</td> 
   <td>nameserver、brokerserver</td> 
   <td>Master2、Slave1</td> 
  </tr> 
 </tbody> 
</table>

### 3.3.4 Host添加信息 ###

vim /etc/hosts

配置如下:

# nameserver
    192.168.56.200	 rocketmq-nameserver1
    192.168.56.201	 rocketmq-nameserver2
    # broker
    192.168.56.200	 rocketmq-master1
    192.168.56.200	 rocketmq-slave2
    192.168.56.201 rocketmq-master2
    192.168.56.201 rocketmq-slave1

配置完成后, 重启网卡

systemctl restart network

### 3.3.5 防火墙配置 ###

宿主机需要远程访问虚拟机的rocketmq服务和web服务，需要开放相关的端口号，简单粗暴的方式是直接关闭防火墙

# 关闭防火墙
    systemctl stop firewalld.service 
    # 查看防火墙的状态
    firewall-cmd --state 
    # 禁止firewall开机启动
    systemctl disable firewalld.service

或者为了安全，只开放特定的端口号，RocketMQ默认使用3个端口：9876 、10911 、11011 。如果防火墙没有关闭的话，那么防火墙就必须开放这些端口：

*  `nameserver` 默认使用 9876 端口
 *  `master` 默认使用 10911 端口
 *  `slave` 默认使用11011 端口

执行以下命令：

# 开放name server默认端口
    firewall-cmd --remove-port=9876/tcp --permanent
    # 开放master默认端口
    firewall-cmd --remove-port=10911/tcp --permanent
    # 开放slave默认端口 (当前集群模式可不开启)
    firewall-cmd --remove-port=11011/tcp --permanent 
    # 重启防火墙
    firewall-cmd --reload

### 3.3.7 创建消息存储路径 ###

mkdir /usr/local/rocketmq/store
    mkdir /usr/local/rocketmq/store/commitlog
    mkdir /usr/local/rocketmq/store/consumequeue
    mkdir /usr/local/rocketmq/store/index

### 3.3.7.1 创建消息存储路径(因为同一台机器主从节点共用存储路径会冲突报错，这里我们分别创建两个目录避坑，我们在下一步中配置文件就用对应的路径就可以了；) ###

mkdir /usr/local/rocketmq/slavestore
    mkdir /usr/local/rocketmq/slavestore/commitlog
    mkdir /usr/local/rocketmq/slavestore/consumequeue
    mkdir /usr/local/rocketmq/slavestore/index

### 3.3.8 broker配置文件 ###

1）master1

服务器：192.168.56.200

vi /usr/soft/rocketmq/conf/2m-2s-sync/broker-a.properties

修改配置如下：

#机器的ip地址
    
    brokerIP1=192.168.56.200
    #所属集群名字
    
    brokerClusterName=rocketmq-cluster
    
    #broker名字，注意此处不同的配置文件填写的不一样
    
    brokerName=broker-a
    
    #0 表示Master ,>0表示slave
    
    brokerId=0
    
    #nameServer 地址，分号分割
    
    namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876;
    
    #在发送消息时，自动创建服务器不存在的Topic,默认创建的队列数
    
    defaultTopicQueueNums=4
    
    #是否允许Broker 自动创建Topic，建议线下开启，线上关闭
    
    autoCreateTopicEnable=true
    
    #是否允许Broker 自动创建订阅组，建议线下开启，线上关闭
    
    autoCreateSubscriptionGroup=true
    
    #Broker 对外服务的监听端口
    
    listenPort=10911
    
    #删除文件时间点，默认是凌晨4点
    
    deleteWhen=04
    
    #文件保留时间，默认是48小时
    
    fileReservedTime=120
    
    #commitLog每个文件的大小默认1G
    
    mapedFileSizeCommitLog=1073741824
    
    #ConsumeQuene每个文件默认存30W条，根据业务情况调整
    
    mapedFileSizeConsumeQueue=300000
    
    #检测物理文件磁盘空间
    
    diskMaxUsedSpaceRatio=88
    
    #存储路径
    
    storePathRootDir=/home/rocketmq/rocketmq/store
    
    #commitLog存储路径
    
    storePathCommitLog=/home/rocketmq/rocketmq/store/commitlog
    
    #消费队列存储路径
    
    storePathConsumeQueue=/home/rocketmq/rocketmq/store/consumequeue
    
    #消费索引存储路径
    
    storePathIndex=/home/rocketmq/rocketmq/store/index
    
    #checkpoint 文件存储路径
    
    storeCheckpoint=/home/rocketmq/rocketmq/store/checkpoint
    
    #abort 文件存储路径
    
    abortFile=/home/rocketmq/rocketmq/store/abort
    
    #限制的消息大小
    
    maxMessageSize=65536
    
    #broker的角色
    
    #ASYNC_MASTER异步复制Master
    
    #SYNC_MASTER同步双写Master
    
    #SLAVE
    
    brokerRole=SYNC_MASTER
    
    #刷盘方式
    
    #ASYNC_FLUSH 异步刷盘
    
    #SYNC_FLUSH 同步刷盘
    
    flushDiskType=SYNC_FLUSH

2）slave2

# 服务器：192.168.56.200(注意这里存储路径已经换了  salvestore路径下) #

# vi /usr/soft/rocketmq/conf/2m-2s-sync/broker-b-s.properties #

修改配置如下：

#机器的ip地址
    
    brokerIP1=192.168.56.200
    #所属集群名字
    
    brokerClusterName=rocketmq-cluster
    
    #broker名字，注意此处不同的配置文件填写的不一样
    
    brokerName=broker-b
    
    #0 表示Master ,>0表示slave
    
    brokerId=1
    
    #nameServer 地址，分号分割
    
    namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876;
    
    #在发送消息时，自动创建服务器不存在的Topic,默认创建的队列数
    
    defaultTopicQueueNums=4
    
    #是否允许Broker 自动创建Topic，建议线下开启，线上关闭
    
    autoCreateTopicEnable=true
    
    #是否允许Broker 自动创建订阅组，建议线下开启，线上关闭
    
    autoCreateSubscriptionGroup=true
    
    #Broker 对外服务的监听端口
    
    listenPort=11011
    
    #删除文件时间点，默认是凌晨4点
    
    deleteWhen=04
    
    #文件保留时间，默认是48小时
    
    fileReservedTime=120
    
    #commitLog每个文件的大小默认1G
    
    mapedFileSizeCommitLog=1073741824
    
    #ConsumeQuene每个文件默认存30W条，根据业务情况调整
    
    mapedFileSizeConsumeQueue=300000
    
    #检测物理文件磁盘空间
    
    diskMaxUsedSpaceRatio=88
    
    #存储路径
    
    storePathRootDir=/home/rocketmq/rocketmq/slavestore
    
    #commitLog存储路径
    
    storePathCommitLog=/home/rocketmq/rocketmq/slavestore/commitlog
    
    #消费队列存储路径
    
    storePathConsumeQueue=/home/rocketmq/rocketmq/slavestore/consumequeue
    
    #消费索引存储路径
    
    storePathIndex=/home/rocketmq/rocketmq/slavestore/index
    
    #checkpoint 文件存储路径
    
    storeCheckpoint=/home/rocketmq/rocketmq/slavestore/checkpoint
    
    #abort 文件存储路径
    
    abortFile=/home/rocketmq/rocketmq/slavestore/abort
    
    #限制的消息大小
    
    maxMessageSize=65536
    
    #broker的角色
    
    #ASYNC_MASTER异步复制Master
    
    #SYNC_MASTER同步双写Master
    
    #SLAVE
    
    brokerRole=SLAVE
    
    #刷盘方式
    
    #ASYNC_FLUSH 异步刷盘
    
    #SYNC_FLUSH 同步刷盘
    
    flushDiskType=ASYNC_FLUSH

3）master2

服务器：192.168.56.201

vi /usr/soft/rocketmq/conf/2m-2s-sync/broker-b.properties

修改配置如下：

#机器的ip地址
    
    brokerIP1=192.168.56.201
    #所属集群名字
    
    brokerClusterName=rocketmq-cluster
    
    #broker名字，注意此处不同的配置文件填写的不一样
    
    brokerName=broker-b
    
    #0 表示Master ,>0表示slave
    
    brokerId=0
    
    #nameServer 地址，分号分割
    
    namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876;
    
    #在发送消息时，自动创建服务器不存在的Topic,默认创建的队列数
    
    defaultTopicQueueNums=4
    
    #是否允许Broker 自动创建Topic，建议线下开启，线上关闭
    
    autoCreateTopicEnable=true
    
    #是否允许Broker 自动创建订阅组，建议线下开启，线上关闭
    
    autoCreateSubscriptionGroup=true
    
    #Broker 对外服务的监听端口
    
    listenPort=10911
    
    #删除文件时间点，默认是凌晨4点
    
    deleteWhen=04
    
    #文件保留时间，默认是48小时
    
    fileReservedTime=120
    
    #commitLog每个文件的大小默认1G
    
    mapedFileSizeCommitLog=1073741824
    
    #ConsumeQuene每个文件默认存30W条，根据业务情况调整
    
    mapedFileSizeConsumeQueue=300000
    
    #检测物理文件磁盘空间
    
    diskMaxUsedSpaceRatio=88
    
    #存储路径
    
    storePathRootDir=/home/rocketmq/rocketmq/store
    
    #commitLog存储路径
    
    storePathCommitLog=/home/rocketmq/rocketmq/store/commitlog
    
    #消费队列存储路径
    
    storePathConsumeQueue=/home/rocketmq/rocketmq/store/consumequeue
    
    #消费索引存储路径
    
    storePathIndex=/home/rocketmq/rocketmq/store/index
    
    #checkpoint 文件存储路径
    
    storeCheckpoint=/home/rocketmq/rocketmq/store/checkpoint
    
    #abort 文件存储路径
    
    abortFile=/home/rocketmq/rocketmq/store/abort
    
    #限制的消息大小
    
    maxMessageSize=65536
    
    #broker的角色
    
    #ASYNC_MASTER异步复制Master
    
    #SYNC_MASTER同步双写Master
    
    #SLAVE
    
    brokerRole=SYNC_MASTER
    
    #刷盘方式
    
    #ASYNC_FLUSH 异步刷盘
    
    #SYNC_FLUSH 同步刷盘
    
    flushDiskType=SYNC_FLUSH

4）slave1

服务器：192.168.56.201

vi /usr/soft/rocketmq/conf/2m-2s-sync/broker-a-s.properties

修改配置如下：

#机器的ip地址
    
    brokerIP1=192.168.56.201
    #所属集群名字
    
    brokerClusterName=rocketmq-cluster
    
    #broker名字，注意此处不同的配置文件填写的不一样
    
    brokerName=broker-a
    
    #0 表示Master ,>0表示slave
    
    brokerId=1
    
    #nameServer 地址，分号分割
    
    namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876;
    
    #在发送消息时，自动创建服务器不存在的Topic,默认创建的队列数
    
    defaultTopicQueueNums=4
    
    #是否允许Broker 自动创建Topic，建议线下开启，线上关闭
    
    autoCreateTopicEnable=true
    
    #是否允许Broker 自动创建订阅组，建议线下开启，线上关闭
    
    autoCreateSubscriptionGroup=true
    
    #Broker 对外服务的监听端口
    
    listenPort=11011
    
    #删除文件时间点，默认是凌晨4点
    
    deleteWhen=04
    
    #文件保留时间，默认是48小时
    
    fileReservedTime=120
    
    #commitLog每个文件的大小默认1G
    
    mapedFileSizeCommitLog=1073741824
    
    #ConsumeQuene每个文件默认存30W条，根据业务情况调整
    
    mapedFileSizeConsumeQueue=300000
    
    #检测物理文件磁盘空间
    
    diskMaxUsedSpaceRatio=88
    
    #存储路径
    
    storePathRootDir=/home/rocketmq/rocketmq/slavestore
    
    #commitLog存储路径
    
    storePathCommitLog=/home/rocketmq/rocketmq/slavestore/commitlog
    
    #消费队列存储路径
    
    storePathConsumeQueue=/home/rocketmq/rocketmq/slavestore/consumequeue
    
    #消费索引存储路径
    
    storePathIndex=/home/rocketmq/rocketmq/slavestore/index
    
    #checkpoint 文件存储路径
    
    storeCheckpoint=/home/rocketmq/rocketmq/slavestore/checkpoint
    
    #abort 文件存储路径
    
    abortFile=/home/rocketmq/rocketmq/slavestore/abort
    
    #限制的消息大小
    
    maxMessageSize=65536
    
    #broker的角色
    
    #ASYNC_MASTER异步复制Master
    
    #SYNC_MASTER同步双写Master
    
    #SLAVE
    
    brokerRole=SLAVE
    
    #刷盘方式
    
    #ASYNC_FLUSH 异步刷盘
    
    #SYNC_FLUSH 同步刷盘
    
    flushDiskType=ASYNC_FLUSH

### 3.3.9 修改启动脚本文件 ###

1）runbroker.sh

vi /usr/local/rocketmq/bin/runbroker.sh

需要根据内存大小进行适当的对JVM参数进行调整：

#===================================================
    # 开发环境配置 JVM Configuration
    JAVA_OPT="${JAVA_OPT} -server -Xms256m -Xmx256m -Xmn128m"

\#\#\#\#2）runserver.sh

vim /usr/local/rocketmq/bin/runserver.sh

JAVA_OPT="${JAVA_OPT} -server -Xms256m -Xmx256m -Xmn128m -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=320m"

### 3.3.10 服务启动 ###

1）启动NameServe集群

分别在192.168.56.200和192.168.56.201启动NameServer

cd /usr/local/rocketmq/bin
    nohup sh mqnamesrv &

2）启动Broker集群

*  在192.168.56.200上启动master1和slave2

master1：

cd /usr/local/rocketmq/bin
    nohup sh mqbroker -c /usr/local/rocketmq/conf/2m-2s-syncbroker-a.properties &

slave2：

cd /usr/local/rocketmq/bin
    nohup sh mqbroker -c /usr/local/rocketmq/conf/2m-2s-sync/broker-b-s.properties &

*  在192.168.56.201上启动master2和slave2

master2

cd /usr/local/rocketmq/bin
    nohup sh mqbroker -c /usr/local/rocketmq/conf/2m-2s-sync/broker-b.properties &

slave1

cd /usr/local/rocketmq/bin
    nohup sh mqbroker -c /usr/local/rocketmq/conf/2m-2s-sync/broker-a-s.properties &

### 3.3.11 查看进程状态 ###

启动后通过JPS查看启动进程

### 3.3.12 查看日志 ###

# 查看nameServer日志
    tail -500f ~/logs/rocketmqlogs/namesrv.log
    # 查看broker日志
    tail -500f ~/logs/rocketmqlogs/broker.log

## 效果： ##

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2h1bmhlaWRhb2Rl_size_16_color_FFFFFF_t_70][]

重启网络：

systemctl restart network

关闭防火墙：

systemctl stop firewalld

200 201都启动

nohup sh /home/rocketmq/rocketmq/bin/mqnamesrv &

200机器：master1:

nohup sh /home/rocketmq/rocketmq/bin/mqbroker -c /home/rocketmq/rocketmq/conf/2m-2s-sync/broker-a.properties > /dev/null 2>&1 &

200机器：slave2:

nohup sh /home/rocketmq/rocketmq/bin/mqbroker -c /home/rocketmq/rocketmq/conf/2m-2s-sync/broker-b-s.properties > /dev/null 2>&1 &

201机器：master2

nohup sh /home/rocketmq/rocketmq/bin/mqbroker -c /home/rocketmq/rocketmq/conf/2m-2s-sync/broker-b.properties > /dev/null 2>&1 &

201机器：slave1

nohup sh /home/rocketmq/rocketmq/bin/mqbroker -c /home/rocketmq/rocketmq/conf/2m-2s-sync/broker-a-s.properties > /dev/null 2>&1 &

nohup java -jar /home/rocketmq/rocketmq-console-ng/rocketmq-console-ng-2.0.0.jar

# 至此：rocketmq双主双从  2台机器 集群搭建完毕 #

[https_github.com_heidaodageshiwo_springboot_rocketmq2]: https://github.com/heidaodageshiwo/springboot_rocketmq2
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2h1bmhlaWRhb2Rl_size_16_color_FFFFFF_t_70]: /images/20221120/b7db212c6d174004b46e3cf21ac7f7b0.png