RocketMQ独孤九剑-总纲

傷城~ 2022-11-17 13:49 53阅读 0赞

# RocketMQ功法总纲 #

## 为啥要学RocketMQ，RibbitMq不香了吗 ##

首先Rocket算是消息中间件中的泰山北斗了，也是消息中间件的后起之秀（2017年才出道）。论吞吐量消息中间件中无人能望其项背`（kafka个人认为不属于消息中间件，人家的的自我介绍是说自己是高吞吐量的流管道）`。RocketMQ可以提供可靠的异步调用，降低系统之间的耦合度，提高系统可用性。

### 一张功法横评献上 ###

<table> 
 <thead> 
  <tr> 
   <th>特性</th> 
   <th>RocketMQ</th> 
   <th>RabbitMq</th> 
   <th>ActiveMQ</th> 
   <th>Kafka</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>开发语言</td> 
   <td>Java</td> 
   <td>erlang</td> 
   <td>Java</td> 
   <td>scala(本质还是java)</td> 
  </tr> 
  <tr> 
   <td>单机吞吐量</td> 
   <td>10万级</td> 
   <td>万级</td> 
   <td>万级</td> 
   <td>10万级</td> 
  </tr> 
  <tr> 
   <td>时效性</td> 
   <td>ms级</td> 
   <td>us级</td> 
   <td>ms级</td> 
   <td>ms级</td> 
  </tr> 
  <tr> 
   <td>高可用(实现方式)</td> 
   <td>非常高(分布式)</td> 
   <td>高(主从)</td> 
   <td>高（主从）</td> 
   <td>非常高（既有zk的分布式）</td> 
  </tr> 
 </tbody> 
</table>

可以看出来 RabbitMQ 在时效性 还是最优的存在，但是……，**扒一扒RabbitMQ缺点**：

1.  使用erlang语言，小众语言，反正我不懂，你再牛奈何源码看不懂，找问题也比较难（对于Java开发者）。
2.  高可用的实现是主从。分布式还是更优
3.  吞吐量。万级9成的场景够用，奈何有更好的
4.  协议复杂。

### 聊一下RocketMq的独孤九剑 ###

1.  消息传递模式包括发布/订阅、请求/应答和流
2.  财务级交易信息
3.  基于DLedger的内置容错和高可用性配置选项
4.  各种跨语言客户端，如Java, C/ c++， Python, Go
5.  可插拔传输协议，如TCP、SSL、AIO
6.  内置消息跟踪功能，也支持opentracing
7.  多功能大数据和流式生态系统集成
8.  按时间或偏移量计算的消息回溯性
9.  在同一个队列中可靠的FIFO和严格的有序消息传递
10. 高效的拉推消费模式
11. 单个队列中的百万级消息累积容量
12. 多种消息传递协议，如JMS和OpenMessaging
13. 灵活的分布式扩展部署架构
14. 闪电般的批量消息交换系统
15. 各种消息过滤机制，如SQL和标记
16. Docker镜像用于隔离测试和云隔离集群
17. 功能丰富的管理仪表板，用于配置、度量和监视
18. 身份验证和授权
19. 免费的开源连接器，用于源和接收

## 聊一聊RocketMQ上榜Apache ##

RocketMq是原Alibaba的内部消息中间件，2017提交给了Apache基金会，并且成为了基金会的顶级项目，能成为Apache的顶级项目说明它已经成为公认的顶级`武功秘籍`，说明你如果对RocketMq小有所成，便可初入江湖，炼至大成，便可独步江湖。同时Apache榜上有名的顶级项目还有：

1.  tomcat, 目前spring boot 默认的servlet。
2.  Maven , 名震江湖，宝刀不老的包管理工具。
3.  zookeeper 分布式中间件的鼻祖级别的存在，Hadoop、Dubbo、Kafka、ElasticJob等这些高手当年都在其麾下。
4.  rocketmq的大师兄kafka，高吞吐量便是kafka成就的无上神功，至今在这方面无人能敌。
5.  Lucene搜索引擎框架，solr和Elasticsearch都是徒子徒孙。
6.  Hadoop 大数据的标准之一。spark那些都是晚辈。
7.  Flink 江湖的后起之秀。

所以说江湖虽大那些开源项目都以名列Apache榜单为荣。

> http://rocketmq.apache.org/ rocketMQ官方地址。（顶级项目的域名开始就是项目名）

[RocketMQ][] 代码托管在github https://github.com/apache/rocketmq 可以直接访问官网下载。

如果你没有科学上网，访问github会比较慢，建议参考 ：[chrome浏览器github加速插件][chrome_github]

## 既然是总纲，就说一下RocketMQ概念吧 ##

### 1 消息模型（Message Model） ###

RocketMQ主要由 Producer、Broker、Consumer 三部分组成，其中Producer 负责生产消息，Consumer 负责消费消息，Broker 负责存储消息。Broker 在实际部署过程中对应一台服务器，每个 Broker 可以存储多个Topic的消息，每个Topic的消息也可以分片存储于不同的 Broker。Message Queue 用于存储消息的物理地址，每个Topic中的消息地址存储于多个 Message Queue 中。ConsumerGroup 由多个Consumer 实例构成。

### 2 消息生产者（Producer） ###

负责生产消息，一般由业务系统负责生产消息。一个消息生产者会把业务应用系统里产生的消息发送到broker服务器。RocketMQ提供多种发送方式，同步发送、异步发送、顺序发送、单向发送。同步和异步方式均需要Broker返回确认信息，单向发送不需要。

### 3 消息消费者（Consumer） ###

负责消费消息，一般是后台系统负责异步消费。一个消息消费者会从Broker服务器拉取消息、并将其提供给应用程序。从用户应用的角度而言提供了两种消费形式：拉取式消费、推动式消费。

### 4 主题（Topic） ###

表示一类消息的集合，每个主题包含若干条消息，每条消息只能属于一个主题，是RocketMQ进行消息订阅的基本单位。

### 5 代理服务器（Broker Server） ###

消息中转角色，负责存储消息、转发消息。代理服务器在RocketMQ系统中负责接收从生产者发送来的消息并存储、同时为消费者的拉取请求作准备。代理服务器也存储消息相关的元数据，包括消费者组、消费进度偏移和主题和队列消息等。

### 6 名字服务（Name Server） ###

名称服务充当路由消息的提供者。生产者或消费者能够通过名字服务查找各主题相应的Broker IP列表。多个Namesrv实例组成集群，但相互独立，没有信息交换。

### 7 拉取式消费（Pull Consumer） ###

Consumer消费的一种类型，应用通常主动调用Consumer的拉消息方法从Broker服务器拉消息、主动权由应用控制。一旦获取了批量消息，应用就会启动消费过程。

### 8 推动式消费（Push Consumer） ###

Consumer消费的一种类型，该模式下Broker收到数据后会主动推送给消费端，该消费模式一般实时性较高。

### 9 生产者组（Producer Group） ###

同一类Producer的集合，这类Producer发送同一类消息且发送逻辑一致。如果发送的是事务消息且原始生产者在发送之后崩溃，则Broker服务器会联系同一生产者组的其他生产者实例以提交或回溯消费。

### 10 消费者组（Consumer Group） ###

同一类Consumer的集合，这类Consumer通常消费同一类消息且消费逻辑一致。消费者组使得在消息消费方面，实现负载均衡和容错的目标变得非常容易。要注意的是，消费者组的消费者实例必须订阅完全相同的Topic。RocketMQ 支持两种消息模式：集群消费（Clustering）和广播消费（Broadcasting）。

### 11 集群消费（Clustering） ###

集群消费模式下,相同Consumer Group的每个Consumer实例平均分摊消息。

### 12 广播消费（Broadcasting） ###

广播消费模式下，相同Consumer Group的每个Consumer实例都接收全量的消息。

### 13 普通顺序消息（Normal Ordered Message） ###

普通顺序消费模式下，消费者通过同一个消费队列收到的消息是有顺序的，不同消息队列收到的消息则可能是无顺序的。

### 14 严格顺序消息（Strictly Ordered Message） ###

严格顺序消息模式下，消费者收到的所有消息均是有顺序的。

### 15 消息（Message） ###

消息系统所传输信息的物理载体，生产和消费数据的最小单位，每条消息必须属于一个主题。RocketMQ中每个消息拥有唯一的Message ID，且可以携带具有业务标识的Key。系统提供了通过Message ID和Key查询消息的功能。

### 16 标签（Tag） ###

为消息设置的标志，用于同一主题下区分不同类型的消息。来自同一业务单元的消息，可以根据不同业务目的在同一主题下设置不同标签。标签能够有效地保持代码的清晰度和连贯性，并优化RocketMQ提供的查询系统。消费者可以根据Tag实现对不同子主题的不同消费逻辑，实现更好的扩展性。

## 有了总纲，就开始勾勒框架了 ##

### 1 技术架构 ###

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzI2NDYyNTY3_size_16_color_FFFFFF_t_70]

RocketMQ架构上主要分为四部分，如上图所示:

*  Producer：消息发布的角色，支持分布式集群方式部署。Producer通过MQ的负载均衡模块选择相应的Broker集群队列进行消息投递，投递的过程支持快速失败并且低延迟。
 *  Consumer：消息消费的角色，支持分布式集群方式部署。支持以push推，pull拉两种模式对消息进行消费。同时也支持集群方式和广播方式的消费，它提供实时消息订阅机制，可以满足大多数用户的需求。
 *  NameServer：NameServer是一个非常简单的Topic路由注册中心，其角色类似Dubbo中的zookeeper，支持Broker的动态注册与发现。主要包括两个功能：Broker管理，NameServer接受Broker集群的注册信息并且保存下来作为路由信息的基本数据。然后提供心跳检测机制，检查Broker是否还存活；路由信息管理，每个NameServer将保存关于Broker集群的整个路由信息和用于客户端查询的队列信息。然后Producer和Conumser通过NameServer就可以知道整个Broker集群的路由信息，从而进行消息的投递和消费。NameServer通常也是集群的方式部署，各实例间相互不进行信息通讯。Broker是向每一台NameServer注册自己的路由信息，所以每一个NameServer实例上面都保存一份完整的路由信息。当某个NameServer因某种原因下线了，Broker仍然可以向其它NameServer同步其路由信息，Producer,Consumer仍然可以动态感知Broker的路由的信息。
 *  BrokerServer：Broker主要负责消息的存储、投递和查询以及服务高可用保证，为了实现这些功能，Broker包含了以下几个重要子模块。
    
    1.  Remoting Module：整个Broker的实体，负责处理来自clients端的请求。
    2.  Client Manager：负责管理客户端(Producer/Consumer)和维护Consumer的Topic订阅信息
    3.  Store Service：提供方便简单的API接口处理消息存储到物理硬盘和查询功能。
    4.  HA Service：高可用服务，提供Master Broker 和 Slave Broker之间的数据同步功能。
    5.  Index Service：根据特定的Message key对投递到Broker的消息进行索引服务，以提供消息的快速查询。

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzI2NDYyNTY3_size_16_color_FFFFFF_t_70 1]

### 2 部署架构 ###

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzI2NDYyNTY3_size_16_color_FFFFFF_t_70 2]

### RocketMQ 网络部署特点 ###

*  NameServer是一个几乎无状态节点，可集群部署，节点之间无任何信息同步。
 *  Broker部署相对复杂，Broker分为Master与Slave，一个Master可以对应多个Slave，但是一个Slave只能对应一个Master，Master与Slave 的对应关系通过指定相同的BrokerName，不同的BrokerId 来定义，BrokerId为0表示Master，非0表示Slave。Master也可以部署多个。每个Broker与NameServer集群中的所有节点建立长连接，定时注册Topic信息到所有NameServer。 注意：当前RocketMQ版本在部署架构上支持一Master多Slave，但只有BrokerId=1的从服务器才会参与消息的读负载。
 *  Producer与NameServer集群中的其中一个节点（随机选择）建立长连接，定期从NameServer获取Topic路由信息，并向提供Topic 服务的Master建立长连接，且定时向Master发送心跳。Producer完全无状态，可集群部署。
 *  Consumer与NameServer集群中的其中一个节点（随机选择）建立长连接，定期从NameServer获取Topic路由信息，并向提供Topic服务的Master、Slave建立长连接，且定时向Master、Slave发送心跳。Consumer既可以从Master订阅消息，也可以从Slave订阅消息，消费者在向Master拉取消息时，Master服务器会根据拉取偏移量与最大偏移量的距离（判断是否读老消息，产生读I/O），以及从服务器是否可读等因素建议下一次是从Master还是Slave拉取。

结合部署架构图，描述集群工作流程：

*  启动NameServer，NameServer起来后监听端口，等待Broker、Producer、Consumer连上来，相当于一个路由控制中心。
 *  Broker启动，跟所有的NameServer保持长连接，定时发送心跳包。心跳包中包含当前Broker信息(IP+端口等)以及存储所有Topic信息。注册成功后，NameServer集群中就有Topic跟Broker的映射关系。
 *  收发消息前，先创建Topic，创建Topic时需要指定该Topic要存储在哪些Broker上，也可以在发送消息时自动创建Topic。
 *  Producer发送消息，启动时先跟NameServer集群中的其中一台建立长连接，并从NameServer中获取当前发送的Topic存在哪些Broker上，轮询从队列列表中选择一个队列，然后与队列所在的Broker建立长连接从而向Broker发消息。
 *  Consumer跟Producer类似，跟其中一台NameServer建立长连接，获取当前订阅Topic存在哪些Broker上，然后直接跟Broker建立连接通道，开始消费消息。

[RocketMQ]: https://github.com/apache/rocketmq
[chrome_github]: https://keepgoon.blog.csdn.net/article/details/115518504
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzI2NDYyNTY3_size_16_color_FFFFFF_t_70]: /images/20221022/8f361729f6ac42ce814f771ecbb25e27.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzI2NDYyNTY3_size_16_color_FFFFFF_t_70 1]: /images/20221022/e18e82807efd4d5ea15aaf9ee5f11bbc.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzI2NDYyNTY3_size_16_color_FFFFFF_t_70 2]: /images/20221022/83957eab05e14d249c547c96c0cc1bfd.png