22道常见RocketMQ面试题以及答案

比眉伴天荒 2024-03-16 20:06 115阅读 0赞

[面试宝典到手，搞定面试，不再是难题，系列文章传送地址，请点击本链接。][Link 1]

1、RocketMQ是什么?

2、RocketMQ有什么作用？

3、RoctetMQ的架构

4、RoctetMQ的优缺点

8、消息过滤,如何实现？

9、消息去重,如果由于网络等原因，多条重复消息投递到了Consumer端，你怎么进行消息去重？

10、RocketMQ是怎么实现分布式事务消息的？

11、什么是分布式消息中的半消息？

12、消息的可用性，RocketMQ如何能保证消息的可用性/可靠性？（这个问题的另一种问法：如何保证消息不丢失）

13、RocketMQ的刷盘机制是什么？

14、RocketMQ怎么实现负载均衡

15、什么是死信？

16、什么是消息幂等？

17、什么是推拉消息模式？

18、任何一台Broker突然宕机了怎么办？

19、Broker把自己的信息注册到哪个NameServer上？

20、RocketMQ Broker中的消息被消费后会立即删除吗？

21、消息的存储和发送机制是怎么样的？

22、RocketMQ的消息存储结构是怎么样的？

--------------------

RocketMQ近几年的使用发展迅猛，往往也成为大型企业招聘面试中总被提及的对象。

#### 1、**RocketMQ是什么?** ####

一个纯**Java**、**分布式队列模型**的消息中间件，是阿里巴巴在2012年开源的分布式消息中间件，目前已经捐赠给 Apache 软件基金会，并于2017年9月25日成为 Apache 的顶级项目。作为经历过多次阿里巴巴双十一这种“超级工程”的洗礼并有稳定出色表现的国产中间件，**具有高性能、低延时和高可靠等特性。主要用来解耦、削峰、消息分发等**。

####    2、**RocketMQ有什么作用？** ####

1、应用解耦  
系统的耦合性越高，容错性就越低。以电商应用为例，用户创建订单后，如果耦合调用库存系统、物流系统、支付系统，任何一个子系统出了故障或者因为升级等原因暂时不可用，都会造成下单操作异常，影响用户使用体验。使用消息队列解耦合，系统的耦合性就会提高了。比如物流系统发生故障，需要几分钟才能来修复，在这段时间内，物流系统要处理的数据被缓存到消息队列中，用户的下单操作正常完成。当物流系统回复后，补充处理存在消息队列中的订单消息即可，终端系统感知不到物流系统发生过几分钟故障。

2、流量削峰  
应用系统如果遇到系统请求流量的瞬间猛增，有可能会将系统压垮。有了消息队列可以将大量请求缓存起来，分散到很长一段时间处理，这样可以大大提高系统的稳定性和用户体验。

3、数据分发  
通过消息队列可以让数据在多个系统更加之间进行流通。数据的产生方不需要关心谁来使用数据，只需要将数据发送到消息队列，数据使用方直接在消息队列中直接获取数据即可

#### 3、**RoctetMQ的架构** ####

Producer：消息的发送者；举例：发信者  
Consumer：消息接收者；举例：收信者  
Broker：暂存和传输消息；举例：邮局  
NameServer：管理Broker；举例：各个邮局的管理机构  
Topic：区分消息的种类；一个发送者可以发送消息给一个或者多个Topic；一个消息的接收者可以订阅一个或者多个Topic消息  
Message Queue：相当于是Topic的分区；用于并行发送和接收消息

![0e1fb964a0d34c0598157d0321f72030.png][]

#### 4、**RoctetMQ的优缺点** ####

**优点：**解耦、削峰、数据分发

**缺点包含以下几点**：

1、**系统可用性降低**

系统引入的外部依赖越多，系统稳定性越差。一旦MQ宕机，就会对业务造成影响。如何保证MQ的高可用？

2、**系统复杂度提高**

MQ的加入大大增加了系统的复杂度，以前系统间是同步的远程调用，现在是通过MQ进行异步调用。如何保证消息没有被重复消费？怎么处理消息丢失情况？那么保证消息传递的顺序性？

3、**一致性问题**

A系统处理完业务，通过MQ给B、C、D三个系统发消息数据，如果B系统、C系统处理成功，D系统处理失败。如何保证消息数据处理的一致性？

5、**RoctetMQ集群的特点**

*  NameServer是一个几乎无状态节点，可集群部署，节点之间无任何信息同步。
 *  Broker部署相对复杂，Broker分为Master与Slave，一个Master可以对应多个Slave，但是一个Slave只能对应一个Master，Master与Slave的对应关系通过指定相同的BrokerName，不同的BrokerId来定义，BrokerId为0表示Master，非0表示Slave。Master也可以部署多个。每个Broker与NameServer集群中的所有节点建立长连接，定时注册Topic信息到所有NameServer。
 *  Producer与NameServer集群中的其中一个节点（随机选择）建立长连接，定期从NameServer取Topic路由信息，并向提供Topic服务的Master建立长连接，且定时向Master发送心跳。Producer完全无状态，可集群部署。
 *  Consumer与NameServer集群中的其中一个节点（随机选择）建立长连接，定期从NameServer取Topic路由信息，并向提供Topic服务的Master、Slave建立长连接，且定时向Master、Slave发送心跳。Consumer既可以从Master订阅消息，也可以从Slave订阅消息，订阅规则由Broker配置决定。

6、**RoctetMQ集群的模式**

1）单Master模式

这种方式风险较大，一旦Broker重启或者宕机时，会导致整个服务不可用。不建议线上环境使用,可以用于本地测试。

2）多Master模式

一个集群无Slave，全是Master，例如2个Master或者3个Master，这种模式的优缺点如下：

优点：配置简单，单个Master宕机或重启维护对应用无影响，在磁盘配置为RAID10时，即使机器宕机不可恢复情况下，由于RAID10磁盘非常可靠，消息也不会丢（异步刷盘丢失少量消息，同步刷盘一条不丢），性能最高；  
缺点：单台机器宕机期间，这台机器上未被消费的消息在机器恢复之前不可订阅，消息实时性会受到影响。  
3）多Master多Slave模式（异步）

每个Master配置一个Slave，有多对Master-Slave，HA采用异步复制方式，主备有短暂消息延迟（毫秒级），这种模式的优缺点如下：

优点：即使磁盘损坏，消息丢失的非常少，且消息实时性不会受影响，同时Master宕机后，消费者仍然可以从Slave消费，而且此过程对应用透明，不需要人工干预，性能同多Master模式几乎一样；  
缺点：Master宕机，磁盘损坏情况下会丢失少量消息。  
4）多Master多Slave模式（同步）

每个Master配置一个Slave，有多对Master-Slave，HA采用同步双写方式，即只有主备都写成功，才向应用返回成功，这种模式的优缺点如下：

优点：数据与服务都无单点故障，Master宕机情况下，消息无延迟，服务可用性与数据可用性都非常高；  
缺点：性能比异步复制模式略低（大约低10%左右），发送单个消息的RT会略高，且目前版本在主节点宕机后，备机不能自动切换为主机。

7、**RoctetMQ顺序消息,如何保证顺序？**

顺序由producer发送到broker的消息队列是满足FIFO的，所以发送是顺序的，单个queue里的消息是顺序的。多个Queue同时消费是无法绝对保证消息的有序性的。所以，同一个topic，同一个queue，发消息的时候一个线程发送消息，消费的时候一个线程去消费一个queue里的消息。RocketMQ给我们提供了MessageQueueSelector接口，可以重写里面的接口，实现自己的算法，比如判断i%2==0，那就发送消息到queue1否则发送到queue2。

#### 8、**消息过滤,**如何实现？ ####

有两种方案，一种是在broker端按照Consumer的去重逻辑进行过滤，这样做的好处是避免了无用的消息传输到Consumer端，缺点是加重了Broker的负担，实现起来相对复杂。另一种是在Consumer端过滤，比如按照消息设置的tag去重，这样的好处是实现起来简单，缺点是有大量无  
用的消息到达了Consumer端只能丢弃不处理。

#### 9、**消息去重,如果由于网络等原因，多条重复消息投递到了Consumer端，你怎么进行消息去重？** ####

这个得先说下消息的幂等性原则：就是用户对于同一种操作发起的多次请求的结果是一样的，不会因为操作了多次就产生不一样的结果。只要保持幂等性，不管来多少条消息，最后处理结果都一样，需要Consumer端自行实现。去重的方案：因为每个消息都有一个MessageId, 保证每个消息都有一个唯一键，可以是数据库的主键或者唯一约束，也可以是Redis缓存中的键，当消费一条消息前，先检查数据库或缓存中是否存在这个唯一键，如果存在就不再处理这条消息，如果消费成功，要保证这个唯一键插入到去重表中。

#### 10、RocketMQ是怎么实现分布式事务消息的？ ####

![8bbc3e4f4ac748829c7a3584a937710c.png][]

上图就是分布式事务消息的实现过程，依赖半消息，二次确认以及消息回查机制。

1、Producer向broker发送半消息  
2、Producer端收到响应，消息发送成功，此时消息是半消息，标记为“不可投递”状态，Consumer消费不了。  
3、Producer端执行本地事务。  
4、正常情况本地事务执行完成，Producer向Broker发送Commit/Rollback，如果是Commit，Broker端将半消息标记为正常消息，Consumer可以消费，如果是Rollback，Broker丢弃此消息。  
5、异常情况，Broker端迟迟等不到二次确认。在一定时间后，会查询所有的半消息，然后到Producer端查询半消息的执行情况。  
6、Producer端查询本地事务的状态  
7、根据事务的状态提交commit/rollback到broker端。（5，6，7是消息回查）

#### 11、什么是分布式消息中的半消息？ ####

半消息：是指暂时还不能被Consumer消费的消息，Producer成功发送到broker端的消息，但是此消息被标记为“暂不可投递”状态，只有等Producer端执行完本地事务后经过二次确认了之后，Consumer才能消费此条消息。

#### 12、**消息的可用性，RocketMQ如何能保证消息的可用性/可靠性？（这个问题的另一种问法：如何保证消息不丢失）** ####

从Producer，Consumer和Broker三个方面来回答。

**从Producer角度分析，如何确保消息成功发送到了Broker？**

1、可以**采用同步发送**，即发送一条数据等到接受者返回响应之后再发送下一个数据包。如果返回响应OK，表示消息成功发送到了broker，状态超时或者失败都会触发二次重试。  
2、可以采用**分布式事务消息的投递方式**。  
3、如果一条消息发送之后超时，也可以通过查询日志的API，来检查是否在Broker存储成功。

总的来说，Producer还是采用同步发送来保证的。

**从Broker角度分析，如何确保消息持久化?**

1、消息只要持久化到CommitLog（日志文件）中，即使Broker宕机，未消费的消息也能重新恢复再消费。

2、Broker的刷盘机制：**同步刷盘**和**异步刷盘**，不管哪种刷盘都可以保证消息一定存储在pagecache中（内存中），但是同步刷盘更可靠，它是Producer发送消息后等数据持久化到磁盘之后再返回响应给Producer。

3、Broker支持多**Master多Slave同步双写**和**多Master多Slave异步复制**模式，消息都是发送给Master主机，但是消费既可以从Master消费，也可以从Slave消费。同步双写模式可以保证即使Master宕机，消息肯定在Slave中有备份，保证了消息不会丢失。

**从Consumer角度分析，如何保证消息被成功消费？**

Consumer自身维护了个持久化的offset（对应Message Queue里的min offset），用来标记已经成功消费且已经成功发回Broker的消息下标。如果Consumer消费失败，它会向Broker发回消费失败的状态，发回成功才会更新自己的offset。如果发回给broker时broker挂掉了，Consumer会定时重试，如果Consumer和Broker一起挂掉了，消息还在Broker端存储着，Consumer端的offset也是持久化的，重启之后继续拉取offset之前的消息进行消费。

#### 13、RocketMQ的刷盘机制是什么？ ####

RocketMQ提供了两种刷盘策略：同步刷盘和异步刷盘

**同步刷盘**

在消息达到Broker的内存之后，必须刷到commitLog日志文件中才算成功，然后返回Producer数据已经发送成功。

**异步刷盘**

异步刷盘是指消息达到Broker内存后就返回Producer数据已经发送成功，会唤醒一个线程去将数据持久化到CommitLog日志文件中。

**优缺点分析**

同步刷盘保证了消息不丢失，但是响应时间相对异步刷盘要多出10%左右，适用于对消息可靠性要求比较高的场景。异步刷盘的吞吐量比较高，RT小，但是如果broker断电了内存中的部分数据会丢失，适用于对吞吐量要求比较高的场景。

#### 14、RocketMQ怎么实现负载均衡 ####

**1****、****Producer****负载均衡**

Producer端，每个实例在发消息的时候，默认会轮询所有的message queue发送，以达到让消息平均落在不同的queue上。而由于queue可以散落在不同的broker，所以消息就发送到不同的broker下，如下图：

![5e7b35e183444428821d0d3fd22c6724.png][]

图中箭头线条上的标号代表顺序，发布方会把第一条消息发送至 Queue 0，然后第二条消息发送至 Queue 1，以此类推。

**2****、****Consumer****负载均衡**

**1****）集群模式**

在集群消费模式下，每条消息只需要投递到订阅这个topic的Consumer Group下的一个实例即可。RocketMQ采用主动拉取的方式拉取并消费消息，在拉取的时候需要明确指定拉取哪一条message queue。

而每当实例的数量有变更，都会触发一次所有实例的负载均衡，这时候会按照queue的数量和实例的数量平均分配queue给每个实例。

默认的分配算法是AllocateMessageQueueAveragely，如下图：

![43f9a50a638144979b6ce504d89a1257.png][]

还有另外一种平均的算法是AllocateMessageQueueAveragelyByCircle，也是平均分摊每一条queue，只是以环状轮流分queue的形式，如下图：

![610b322df42249f7bad8f3c7d5e84c1a.png][]

需要注意的是，集群模式下，queue都是只允许分配只一个实例，这是由于如果多个实例同时消费一个queue的消息，由于拉取哪些消息是consumer主动控制的，那样会导致同一个消息在不同的实例下被消费多次，所以算法上都是一个queue只分给一个consumer实例，一个consumer实例可以允许同时分到不同的queue。

通过增加consumer实例去分摊queue的消费，可以起到水平扩展的消费能力的作用。而有实例下线的时候，会重新触发负载均衡，这时候原来分配到的queue将分配到其他实例上继续消费。

但是如果consumer实例的数量比message queue的总数量还多的话，多出来的consumer实例将无法分到queue，也就无法消费到消息，也就无法起到分摊负载的作用了。所以需要控制让queue的总数量大于等于consumer的数量。

**2****）广播模式**

由于广播模式下要求一条消息需要投递到一个消费组下面所有的消费者实例，所以也就没有消息被分摊消费的说法。

在实现上，其中一个不同就是在consumer分配queue的时候，所有consumer都分到所有的queue。

![11658e2955cf4d8bbb2e28da691545c9.png][]

#### 15、什么是死信？ ####

当一条消息初次消费失败，消息队列 RocketMQ 会自动进行消息重试；达到最大重试次数后，若消费依然失败，则表明消费者在正常情况下无法正确地消费该消息，此时，消息队列 RocketMQ 不会立刻将消息丢弃，而是将其发送到该消费者对应的特殊队列中。

在消息队列 RocketMQ 中，这种正常情况下无法被消费的消息称为死信消息（Dead-Letter Message），存储死信消息的特殊队列称为死信队列（Dead-Letter Queue）。

**1****、死信特性**

**死信消息具有以下特性：**

1.  不会再被消费者正常消费。

1.  有效期与正常消息相同，均为 3 天，3 天后会被自动删除。因此，请在死信消息产生后的 3 天内及时处理。

**死信队列具有以下特性**：

1.  一个死信队列对应一个 Group ID， 而不是对应单个消费者实例。

1.  如果一个 Group ID 未产生死信消息，消息队列 RocketMQ 不会为其创建相应的死信队列。

1.  一个死信队列包含了对应 Group ID 产生的所有死信消息，不论该消息属于哪个 Topic。

**2****、查看死信信息**

**在控制台查询出现死信队列的主题信息**

![3a40c88e69a6478083b4dc579df8e115.png][]

**在消息界面根据主题查询死信消息**

![b103d8da91b643b6953d96dee13ca558.png][]

**选择重新发送消息**

一条消息进入死信队列，意味着某些因素导致消费者无法正常消费该消息，因此，通常需要您对其进行特殊处理。排查可疑因素并解决问题后，可以在消息队列 RocketMQ 控制台重新发送该消息，让消费者重新消费一次。

#### 16、什么是消息幂等？ ####

消息队列 RocketMQ 消费者在接收到消息以后，有必要根据业务上的唯一 Key 对消息做幂等处理的必要性。

**1****、消息幂等的必要性**

在互联网应用中，尤其在网络不稳定的情况下，消息队列 RocketMQ 的消息有可能会出现重复，这个重复简单可以概括为以下情况：

A、**发送时消息重复**

当一条消息已被成功发送到服务端并完成持久化，此时出现了网络闪断或者客户端宕机，导致服务端对客户端应答失败。 如果此时生产者意识到消息发送失败并尝试再次发送消息，消费者后续会收到两条内容相同并且 Message ID 也相同的消息。

B、**投递时消息重复**

消息消费的场景下，消息已投递到消费者并完成业务处理，当客户端给服务端反馈应答的时候网络闪断。 为了保证消息至少被消费一次，消息队列 RocketMQ 的服务端将在网络恢复后再次尝试投递之前已被处理过的消息，消费者后续会收到两条内容相同并且 Message ID 也相同的消息。

C、**负载均衡时消息重复（包括但不限于网络抖动、****Broker** **重启以及订阅方应用重启）**

当消息队列 RocketMQ 的 Broker 或客户端重启、扩容或缩容时，会触发 Rebalance，此时消费者可能会收到重复消息。

**2****、处理方式**

因为 Message ID 有可能出现冲突（重复）的情况，所以真正安全的幂等处理，不建议以 Message ID 作为处理依据。 最好的方式是以业务唯一标识作为幂等处理的关键依据，而业务的唯一标识可以通过消息 Key 进行设置：

订阅方收到消息时可以根据消息的 Key 进行幂等处理：

<table> 
 <tbody> 
 <tr> 
 <td style="background-color:#fff5eb;border-color:#fed4a4;width:414pt;"> consumer.subscribe("ons_test", "*", new MessageListener() { &nbsp;&nbsp;&nbsp; public Action consume(Message message, ConsumeContext context) { &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; String key = message.getKey() &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; // 根据业务唯一标识的 key 做幂等处理 &nbsp;&nbsp;&nbsp; } }); </td> 
 </tr> 
 </tbody> 
</table>

#### 17、什么是推拉消息模式？ ####

**PULL**：拉取型消费者主动从broker中拉取消息消费，只要拉取到消息，就会启动消费过程，称为主动型消费。

**PUSH**：推送型消费者就是要注册消息的监听器，监听器是要用户自行实现的。当消息达到broker服务器后，会触发监听器拉取消息，然后启动消费过程。但是从实际上看还是从broker中拉取消息，称为被动消费型。

#### 18、任何一台Broker突然宕机了怎么办？ ####

Broker主从架构以及多副本策略。Master收到消息后会同步给Slave，这样一条消息就不止一份了，Master宕机了还有slave中的消息可用，保证了MQ的可靠性和高可用性。而且Rocket MQ4.5.0开始就支持了Dlegder模式，基于raft的，做到了真正意义的HA。

#### 19、Broker把自己的信息注册到哪个NameServer上？ ####

这么问明显在坑你，因为Broker会向所有的NameServer上注册自己的信息，而不是某一个，是每一个，全部！

#### 20、RocketMQ Broker中的消息被消费后会立即删除吗？ ####

不会，每条消息都会持久化到CommitLog中，每个Consumer连接到Broker后会维持消费进度信息，当有消息消费后只是当前Consumer的消费进度（CommitLog的offset）更新了。

#### 21、**消息的存储和发送机制是怎么样的？** ####

**消息存储**：RocketMQ采用的是文件存储消息，而磁盘操作需要使用得当，其速度可以匹配上网络上传的传输速度。目前的高性能磁盘，顺序写速度可以达到600MB/s， 超过了一般网卡的传输速度。但是磁盘随机写的速度只有大概100KB/s，和顺序写的性能相差6000倍！因为有如此巨大的速度差别，好的消息队列系统会比普通的消息队列系统速度快多个数量级。**RocketMQ****的消息用顺序写****,****保证了消息存储的速度**。

**消息发送**：文件的消息发送到接受方的过程，相应的流程如下，Linux操作系统分为【用户态】和【内核态】，文件操作、网络操作需要涉及这两种形态的切换，免不了进行数据复制。一台服务器 把本机磁盘文件的内容发送到客户端，一般分为两个步骤：

1）read；读取本地文件内容；

2）write；将读取的内容通过网络发送出去。

这两个看似简单的操作，实际进行了4 次数据复制，分别是：

1.  从磁盘复制数据到内核态内存；

1.  从内核态内存复 制到用户态内存；

1.  然后从用户态 内存复制到网络驱动的内核态内存；

1.  最后是从网络驱动的内核态内存复 制到网卡中进行传输。

![b89d36f646af403db30fecc13f23f483.png][]

用mmap的方式，可以省去向用户态的内存复制，提高速度。这种机制在Java中是通过MappedByteBuffer实现的

**RocketMQ****充分利用了上述特性，也就是所谓的****“****零拷贝****”****技术，提高消息存盘和网络发送的速度**。

#### **22、RocketMQ的消息存储结构是怎么样的？** ####

RocketMQ消息的存储是由ConsumeQueue和CommitLog配合完成 的，消息真正的物理存储文件是CommitLog，ConsumeQueue是消息的逻辑队列，类似数据库的索引文件，存储的是指向物理存储的地址。每 个Topic下的每个Message Queue都有一个对应的ConsumeQueue文件。

![6fc5e770c95747768e3c706922628cf3.png][]

1.  CommitLog：存储消息的元数据

1.  ConsumerQueue：存储消息在CommitLog的索引

1.  IndexFile：为了消息查询提供了一种通过key或时间区间来查询消息的方法，这种通过IndexFile来查找消息的方法不影响发送与消费消息的主流程

[Link 1]: https://blog.csdn.net/wanghaiping1993/article/details/125075785
[0e1fb964a0d34c0598157d0321f72030.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/15/b0d2cdd0efd14cc395f831f61acd9086.png
[8bbc3e4f4ac748829c7a3584a937710c.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/15/583d668d5dc74586acecad6328791682.png
[5e7b35e183444428821d0d3fd22c6724.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/15/66ff18312eda44d28583eab81fd73a1f.png
[43f9a50a638144979b6ce504d89a1257.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/15/daab48b09565429c850ab85e8eb5ba8c.png
[610b322df42249f7bad8f3c7d5e84c1a.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/15/d00aa7656d4e47239c140662466fbe7f.png
[11658e2955cf4d8bbb2e28da691545c9.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/15/fa211491e5164ef58f4fe8ca1d806ef3.png
[3a40c88e69a6478083b4dc579df8e115.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/15/291be62da617419e878d3b6f4f46379d.png
[b103d8da91b643b6953d96dee13ca558.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/15/e2d0f10bbe9c46aeaa7005178708bd16.png
[b89d36f646af403db30fecc13f23f483.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/15/72f7798d6b79406bbd66cd7a78792488.png
[6fc5e770c95747768e3c706922628cf3.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/15/92a38625a1374c87937dd52f6a07bfd8.png