RocketMQ——消息幂等问题

淩亂°似流年 2021-09-26 22:12 409阅读 0赞

### **微信公众号“假装正经的程序员”** ###

## ##

### **一、消息幂等** ###

MQ消息必达，架构上有两个核心设计点：

（1）消息落地

（2）消息超时、重传、确认

![20201226174208205.png][]

再次回顾消息总线核心架构，它由

**发送端、服务端、固化存储、接收端**

四大部分组成。

为保证消息的可达性，超时、重传、确认机制可能导致消息总线、或者业务方 **收到重复的消息**，从而对业务产生影响。

举个栗子：

购买会员卡，上游支付系统负责给用户扣款，下游系统负责给用户发卡，通过MQ异步通知。不管是上半场的ACK丢失，导致MQ收到重复的消息，还是下半场ACK丢失，导致购卡系统收到重复的购卡通知，都可能出现，上游扣了一次钱，下游发了多张卡。

**消息总线的幂等性设计**至关重要，是本文将要讨论的重点。

### **二、上半场的幂等性设计** ###

![20201226174227439.png][]

MQ消息发送上半场，即上图中的1-3

1，发送端MQ-client将消息发给服务端MQ-server

2，服务端MQ-server将消息落地

3，服务端MQ-server回ACK给发送端MQ-client

如果3丢失，发送端MQ-client超时后会重发消息，可能导致服务端MQ-server收到重复消息。

此时重发是MQ-client发起的，消息的处理是MQ-server，为了避免步骤2落地重复的消息，对每条消息， **MQ系统内部必须生成一个inner-msg-id**，作为去重和幂等的依据，这个内部消息ID的特性是：

（1）全局唯一

（2）MQ生成，具备业务无关性，对消息发送方和消息接收方屏蔽

**有了这个inner-msg-id，就能保证上半场重发，也只有1条消息落到MQ-server的DB中，实现上半场幂等。**

###    **三、下半场的幂等性设计** ###

![20201226174242645.png][]

MQ消息发送下半场，即上图中的4-6

4，服务端MQ-server将消息发给接收端MQ-client

5，接收端MQ-client回ACK给服务端

6，服务端MQ-server将落地消息删除

需要强调的是，接收端MQ-client回ACK给服务端MQ-server，是消息消费业务方的主动调用行为，不能由MQ-client自动发起，因为MQ系统不知道消费方什么时候真正消费成功。

如果5丢失，服务端MQ-server超时后会重发消息，可能导致MQ-client收到重复的消息。

此时重发是MQ-server发起的，消息的处理是消息消费业务方，消息重发势必导致业务方重复消费（上例中的一次付款，重复发卡），为了保证业务幂等性 **，业务消息体中，必须有一个biz-id**，作为去重和幂等的依据，这个业务ID的特性是：

（1）对于同一个业务场景，全局唯一

（2）由业务消息发送方生成，业务相关，对MQ透明

（3）由业务消息消费方负责判重，以保证幂等

最常见的业务ID有：支付ID，订单ID，帖子ID等。

具体到支付购卡场景，发送方必须将支付ID放到消息体中，消费方必须对同一个支付ID进行判重，保证购卡的幂等。

**有了这个业务ID，才能够保证下半场消息消费业务方即使收到重复消息，也只有1条消息被消费，保证了幂等。**

### **四、总结** ###

MQ为了保证消息必达，消息上下半场均可能发送重复消息，如何保证消息的幂等性呢？

**上半场**

MQ-client生成inner-msg-id，保证上半场幂等。

这个ID全局唯一，业务无关，由MQ保证。

**下半场**

业务 **发送方**带入biz-id，业务 **接收方去重**保证幂等。

这个ID对单业务唯一，业务相关，对MQ透明。

结论：幂等性，不仅对MQ有要求，对业务上下游也有要求。

[20201226174208205.png]: /images/20210923/56c304d2b9b84803bf92b0c8abf2c618.png
[20201226174227439.png]: /images/20210923/f9872fa8bc3b4ca585b3f47aaeed99ab.png
[20201226174242645.png]: /images/20210923/018dfe95abff41648c6bd6985950ffaf.png

发表评论取消回复

表情：

评论列表（有 0 条评论，409人围观）

还没有评论，来说两句吧...

相关阅读

相关 RocketMq普通消息，死信队列，消息幂等性（redis）

> 1 介绍 > > [RocketMQ][]作为一款纯java、分布式、队列模型的开源消息中间件，支持事务消息、顺序消息、批量消息、定时消息、消息回溯等。 > 1.

快来打我*/ 2024年04月01日 08:56/ 0 赞/ 53 阅读

相关 RocketMQ消息如何进行幂等处理

1. 背景笔者在排查生产问题的时候，发现了一个RocketMQ消息重复消费的问题。生产者发送的消息： { "code":"45000002

痛定思痛。/ 2024年03月24日 16:44/ 0 赞/ 55 阅读

相关消息幂等性

@RabbitHandler @RabbitListener(queues = "q1") //如何保证消费者的幂等性？

落日映苍穹つ/ 2023年10月15日 12:51/ 0 赞/ 22 阅读

相关 RocketMQ简介+rocketMq解决消息幂等性

RocketMQ简介+rocketMq解决消息幂等性 RocketMQ概述 RocketMQ 是一款分布式、队列模型的消息中间件，具有以下特点：能够保证严格的消息

Myth丶恋晨/ 2023年09月24日 00:28/ 0 赞/ 125 阅读

相关如何保障消息100%投递成功、消息幂等性？

![0D5F937FE12312312D81F17F.jpg][] 程序员的成长之路互联网/程序员/技术/资料共享 [关注][Link 1] 阅读本文大概需要 6

清疚/ 2022年10月15日 15:51/ 0 赞/ 103 阅读

相关消息幂等（去重）通用解决方案

点击关注公众号，利用碎片时间学习![b0bc5c223b9a2ad5d686536dcf0e7031.png][] 消息中间件是分布式系统常用的组件，无论是异步化、解耦、削峰

小鱼儿/ 2022年08月29日 11:55/ 0 赞/ 197 阅读

相关 MQ，如何做到消息幂等

一、缘起如《[消息总线消息必达][Link 1]》所述，MQ消息必达，架构上有两个核心设计点：（1）消息落地（2）消息超时、重传、确认 ![20210219

r囧r小猫/ 2022年05月21日 01:14/ 0 赞/ 217 阅读

相关 RocketMQ——消息幂等问题

微信公众号“假装正经的程序员” 一、消息幂等 MQ消息必达，架构上有两个核心设计点：（1）消息落地（2）消息超时、重传、确认 ![202

淩亂°似流年/ 2021年09月26日 22:12/ 0 赞/ 410 阅读

相关 rabbitmq系列（三）消息幂等性处理

一、springboot整合rabbitmq 1. 我们需要新建两个工程，一个作为生产者，另一个作为消费者。在pom.xml中添加amqp依赖： <depen

分手后的思念是犯贱/ 2021年09月18日 05:10/ 0 赞/ 383 阅读

相关消息的幂等性解决思路

查询一次和查询多次，在数据不变的情况下，查询结果是一样的。select 是天然的幂等操作

小灰灰/ 2020年05月02日 15:52/ 0 赞/ 870 阅读