RocketMQ——单主部署、一主一从部署、双主双从部署

阳光穿透心脏的1/2处 2022-02-15 05:41 626阅读 0赞

# 一.RocketMQ单机部署 #

## ##

### Hosts添加信息 ###

我们首先进入/etc/hosts来添加信息

vim /etc/hosts

添加信息如下：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM2NTgyNjA0_size_16_color_FFFFFF_t_70][]

### 上传解压安装包 ###

通过XFTP工具将apache-rocketmq.tar.gz传到/usr/local/software

![20190423221546938.png][]

然后添加/usr/local/apache-rocketmq目录，再将apache-rocketmq.tar.gz解压到此目录下

[root@bogon apache-rocketmq]#  mkdir /usr/local/apache-rocketmq && tar -zxvf apache-rocketmq.tar.gz -C /usr/local/apache-rocketmq

再建立一个软连接

[root@bogon local]# ln -s apache-rocketmq rocketmq

### 创建存储路径 ###

[root@bogon local]# mkdir /usr/local/rocketmq/store
    [root@bogon local]# mkdir /usr/local/rocketmq/store/commitlog
    [root@bogon local]# mkdir /usr/local/rocketmq/store/consumequeue
    [root@bogon local]# mkdir /usr/local/rocketmq/store/index

### 更改RocketMQ配置文件 ###

vim /usr/local/rocketmq/conf/2m-2s-async/broker-a.properties

**broker-a.properties（主启动文件）**更改成如下：

#所属集群名字
    brokerClusterName=rocketmq-cluster
    #broker 名字，注意此处不同的配置文件填写的不一样
    brokerName=broker-a
    #0 表示 Master， >0 表示 Slave
    brokerId=0
    #nameServer 地址，分号分割
    namesrvAddr=rocketmq-nameserver1:9876
    #在发送消息时，自动创建服务器不存在的 topic，默认创建的队列数
    defaultTopicQueueNums=4
    #是否允许 Broker 自动创建 Topic，建议线下开启，线上关闭
    autoCreateTopicEnable=true
    #是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭
    autoCreateSubscriptionGroup=true
    #Broker 对外服务的监听端口
    listenPort=10911
    #删除文件时间点，默认凌晨 4 点
    deleteWhen=04
    #文件保留时间，默认 48 小时
    fileReservedTime=120
    #commitLog 每个文件的大小默认 1G
    mapedFileSizeCommitLog=1073741824
    #ConsumeQueue 每个文件默认存 30W 条，根据业务情况调整
    mapedFileSizeConsumeQueue=300000
    #destroyMapedFileIntervalForcibly=120000
    #redeleteHangedFileInterval=120000
    #检测物理文件磁盘空间
    diskMaxUsedSpaceRatio=88
    #存储路径
    storePathRootDir=/usr/local/rocketmq/store
    #commitLog 存储路径
    storePathCommitLog=/usr/local/rocketmq/store/commitlog
    #消费队列存储路径存储路径
    storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
    #消息索引存储路径
    storePathIndex=/usr/local/rocketmq/store/index
    #checkpoint 文件存储路径
    storeCheckpoint=/usr/local/rocketmq/store/checkpoint
    #abort 文件存储路径
    abortFile=/usr/local/rocketmq/store/abort
    #限制的消息大小
    maxMessageSize=65536
    #flushCommitLogLeastPages=4
    #flushConsumeQueueLeastPages=2
    #flushCommitLogThoroughInterval=10000
    #flushConsumeQueueThoroughInterval=60000
    #Broker 的角色
    #- ASYNC_MASTER 异步复制 Master
    #- SYNC_MASTER 同步双写 Master
    #- SLAVE
    brokerRole=ASYNC_MASTER
    #刷盘方式
    #- ASYNC_FLUSH 异步刷盘
    #- SYNC_FLUSH 同步刷盘
    flushDiskType=ASYNC_FLUSH
    #checkTransactionMessageEnable=false
    #发消息线程池数量
    #sendMessageThreadPoolNums=128
    #拉消息线程池数量
    #pullMessageThreadPoolNums=128

## ##

### 修改日志配置文件 ###

我们去到 usr/local目录下

[root@rocketmq-nameserver1 local]# mkdir -p /usr/local/rocketmq/logs
    [root@rocketmq-nameserver1 local]# cd /usr/local/rocketmq/conf && sed -i 's#${user.home}#/usr/local/rocketmq#g' *.xml

### 修改启动脚本的参数 ###

[root@rocketmq-nameserver1 bin]# vim /usr/local/rocketmq/bin/runbroker.sh
    [root@rocketmq-nameserver1 bin]# vim /usr/local/rocketmq/bin/runserver.sh

将两个文件里面的内存配置都改为1G

![20190424104652807.png][]

### 启动RocketMQ ###

启动顺序是先启动NameServer，再启动BrokerServer

首先我们进入/usr/local/rocketmq/bin目录下输入下面命令启动NameServer

[root@rocketmq-nameserver1 bin]# nohup sh mqnamesrv &

然后输入下面命令启动BrokerServer

[root@rocketmq-nameserver1 bin]# nohup sh mqbroker -c /usr/local/rocketmq/conf/2m-2s-async/broker-a.properties >/dev/null 2>&1 &

再输入jps，可以看到BrokerServer启动了

![20190424111150141.png][]

### 关闭RocketMQ ###

如果我们要关闭服务的话先关BrokerServer，再关闭NamesrvStartup，进入/usr/local/rocketmq/bin目录下输入下面命令：

# sh mqshutdown broker
    # sh mqshutdown namesrv

# 二.单主从模式集群环境构建 #

我们现在要新增一个Slave节点，我用的是阿里云虚拟机，然后我们先去本地虚拟机把阿里云的节点添加到etc/hosts文件中（大家可能会发现刚刚配置的本地虚拟机ip和下面图片上的不一样了，这是因为上面配置我是在学校配置的，而下面这个是在家里，网络不同，所以IP地址也相应改变了）

![20190426203403678.png][]

同样的，我们在阿里云虚拟机中进入/etc/hosts来添加上述信息，

阿里云slave节点的配置和上面Master配置一模一样，只是在RocketMQ配置文件这一步时有所不同，我们应该配置**broker-a-s.properties（从启动文件），**配置内容基本和上面一样，只有下面几项略微不同

#0 表示 Master， >0 表示 Slave
    brokerId=1
    #nameServer 地址，分号分割
    namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
    brokerIP1=120.77.211.142
    #- ASYNC_MASTER 异步复制 Master
    #- SYNC_MASTER 同步双写 Master
    #- SLAVE
    brokerRole=SLAVE

brokerIP1=120.77.211.142 这个是由于阿里云线上环境有多个网卡，默认情况下MQ很可能走的是内网的IP（因内网网卡排在外网网卡前面）所以要添加这条，本机虚拟机就不需要了。

当然，本地虚拟机的**broker-a.properties（主启动文件）**文件配置也需要将更改如下：

#nameServer 地址，分号分割
    namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876

最后用**broker-a.properties**启动本地虚拟机的节点，使用**broker-a-s.properties**启动阿里云虚拟机的节点，然后通过控制台来看结果：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM2NTgyNjA0_size_16_color_FFFFFF_t_70 1][]

说明成功啦

# 三.  双主双从集群环境构建 #

现在我们来讨论双主双从，两台机器分别部署Broker-Master&NameServer，两台机器分别部署Broker-Slave&NameServe

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM2NTgyNjA0_size_16_color_FFFFFF_t_70 2][]

上图图中，把NameServer单独提出来了，变成一个共有的服务组，但有时候为了节省服务器，我们可以把NameServer与BrokerMater和BrokerSlave部署到同一个节点就。比如两台机器部署master，两台机器部署slave，然后每台机器上都有一个NameServer，这也是我们的部署方案。

我们首先需要四个节点：

![20190429095415237.png][]

yangbishang与mamba1是一对主从节点，mamba与mamba3是一对主从节点，每个节点有一个NameServer。

多主多从模式分为两种方式，第一种为异步复制，第二种为同步双写

![20190429100554920.png][]

我们为了可靠性，选择双写双从，如果想提高性能，可以在后面的刷盘策略上下功夫。关于双写双从的配置我们后面讲。

四个节点的配置和上面一样，只有下面两个操作略有不同

第一个是etc/hosts文件配置。如下

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM2NTgyNjA0_size_16_color_FFFFFF_t_70 3][]

接下来我们再改同步双写的配置文件

broker-a.properties、 broker-b.properties 配置如下：

#所属集群名字
    brokerClusterName=rocketmq-cluster
    #broker 名字，注意此处不同的配置文件填写的不一样
    brokerName=broker-a|broker-b
    #0 表示 Master， >0 表示 Slave
    brokerId=0
    #nameServer 地址，分号分割
    namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876;rocketmqnameserver3:9876;rocketmq-nameserver4:9876
    #在发送消息时，自动创建服务器不存在的 topic，默认创建的队列数
    defaultTopicQueueNums=4
    #是否允许 Broker 自动创建 Topic，建议线下开启，线上关闭
    autoCreateTopicEnable=true
    #是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭
    autoCreateSubscriptionGroup=true
    #Broker 对外服务的监听端口
    listenPort=10911
    #删除文件时间点，默认凌晨 4 点
    deleteWhen=04
    #文件保留时间，默认 48 小时
    fileReservedTime=120
    #commitLog 每个文件的大小默认 1G
    mapedFileSizeCommitLog=1073741824
    #ConsumeQueue 每个文件默认存 30W 条，根据业务情况调整
    mapedFileSizeConsumeQueue=300000
    #destroyMapedFileIntervalForcibly=120000
    #redeleteHangedFileInterval=120000
    #检测物理文件磁盘空间
    diskMaxUsedSpaceRatio=88
    #存储路径
    storePathRootDir=/usr/local/rocketmq/store
    #commitLog 存储路径
    storePathCommitLog=/usr/local/rocketmq/store/commitlog
    #消费队列存储路径存储路径
    storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
    #消息索引存储路径
    storePathIndex=/usr/local/rocketmq/store/index
    #checkpoint 文件存储路径
    storeCheckpoint=/usr/local/rocketmq/store/checkpoint
    #abort 文件存储路径
    abortFile=/usr/local/rocketmq/store/abort
    #限制的消息大小
    maxMessageSize=65536
    #flushCommitLogLeastPages=4
    #flushConsumeQueueLeastPages=2
    #flushCommitLogThoroughInterval=10000
    #flushConsumeQueueThoroughInterval=60000
    #Broker 的角色
    #- ASYNC_MASTER 异步复制 Master
    #- SYNC_MASTER 同步双写 Master
    #- SLAVE
    brokerRole=ASYNC_MASTER
    #刷盘方式
    #- ASYNC_FLUSH 异步刷盘
    #- SYNC_FLUSH 同步刷盘
    flushDiskType=ASYNC_FLUSH
    #checkTransactionMessageEnable=false
    #发消息线程池数量
    #sendMessageThreadPoolNums=128
    #拉消息线程池数量
    #pullMessageThreadPoolNums=128

broker-a-s.properties、 broker-b-s.properties 配置如下：

#所属集群名字
    brokerClusterName=rocketmq-cluster
    #broker 名字，注意此处不同的配置文件填写的不一样，与 Master 通过 brokerName 来配对
    brokerName=broker-a|broker-b
    #0 表示 Master， >0 表示 Slave
    brokerId=1
    #nameServer 地址，分号分割
    namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876;rocketmqnameserver3:9876;rocketmq-nameserver4:9876
    #在发送消息时，自动创建服务器不存在的 topic，默认创建的队列数
    defaultTopicQueueNums=4
    #是否允许 Broker 自动创建 Topic，建议线下开启，线上关闭
    autoCreateTopicEnable=true
    #是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭
    autoCreateSubscriptionGroup=true
    #Broker 对外服务的监听端口
    listenPort=10911
    #删除文件时间点，默认凌晨 4 点
    deleteWhen=04
    #文件保留时间，默认 48 小时
    fileReservedTime=120
    #commitLog 每个文件的大小默认 1G
    mapedFileSizeCommitLog=1073741824
    #ConsumeQueue 每个文件默认存 30W 条，根据业务情况调整
    mapedFileSizeConsumeQueue=300000
    #destroyMapedFileIntervalForcibly=120000
    #redeleteHangedFileInterval=120000
    #检测物理文件磁盘空间
    diskMaxUsedSpaceRatio=88
    #存储路径
    storePathRootDir=/usr/local/rocketmq/store
    #commitLog 存储路径
    storePathCommitLog=/usr/local/rocketmq/store/commitlog
    #消费队列存储路径存储路径
    storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
    #消息索引存储路径
    storePathIndex=/usr/local/rocketmq/store/index
    #checkpoint 文件存储路径
    storeCheckpoint=/usr/local/rocketmq/store/checkpoint
    #abort 文件存储路径
    abortFile=/usr/local/rocketmq/store/abort
    #限制的消息大小
    maxMessageSize=65536
    #flushCommitLogLeastPages=4
    #flushConsumeQueueLeastPages=2
    #flushCommitLogThoroughInterval=10000
    #flushConsumeQueueThoroughInterval=60000
    #Broker 的角色
    #- ASYNC_MASTER 异步复制 Master
    #- SYNC_MASTER 同步双写 Master
    #- SLAVE
    brokerRole=SLAVE
    #刷盘方式
    #- ASYNC_FLUSH 异步刷盘
    #- SYNC_FLUSH 同步刷盘
    flushDiskType=ASYNC_FLUSH
    #checkTransactionMessageEnable=false
    #发消息线程池数量
    #sendMessageThreadPoolNums=128
    #拉消息线程池数量
    #pullMessageThreadPoolNums=128

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM2NTgyNjA0_size_16_color_FFFFFF_t_70]: /images/20220215/2c56e4653cd549498262b49cff17b0a3.png
[20190423221546938.png]: /images/20220215/68a09786f65b433fb0ff460e0ead3991.png
[20190424104652807.png]: /images/20220215/ecb18965c3c5418dad1368ba3dcf0860.png
[20190424111150141.png]: /images/20220215/fbc27558b8ee4673b2f22fc9138aa5ba.png
[20190426203403678.png]: /images/20220215/347a3962cb7644c89b39914d254d54da.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM2NTgyNjA0_size_16_color_FFFFFF_t_70 1]: /images/20220215/8cd7ba530eb44564a8311b58c17ddb00.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM2NTgyNjA0_size_16_color_FFFFFF_t_70 2]: /images/20220215/de6429ed536e4e028cf8131d67031383.png
[20190429095415237.png]: /images/20220215/8cda879b323d431c99514357e6b3ab43.png
[20190429100554920.png]: /images/20220215/e38d71f70d314f8c9a98c2fd71a9857e.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM2NTgyNjA0_size_16_color_FFFFFF_t_70 3]: /images/20220215/d4f077a067ea49708d5797f243b3282e.png