Disruptor介绍

红太狼 2022-09-26 03:02 181阅读 0赞

**Disruptor**

## 1. Disruptor是什么 ##

### 1.1  技术背景 ###

LMAX是在英国注册并受到FCA监管（监管号码为509778）的外汇黄金交易所, LMAX架构是LMAX内部研发并应用到交易系统的一种技术。它之所以引起人们的关注,是因为它是一个非常高性能系统，这个系统是建立在JVM平台上，核心是一个业务逻辑处理器，官方号称它能够在一个线程里每秒处理6百万订单.

一个仅仅部署在4台服务器上的服务，每秒向Database写入数据超过100万行数据，每分钟产生超过1G的数据。而每台服务器（8核12G）上CPU占用不到100%，load不超过5。

### 1.2  对比阻塞队列 ###

** **可以和BlockingQueue做对比，不过disruptor除了能完成同样的工作场景外，能做更多的事，效率也更高。业务逻辑处理器完全是运行在内存中(in-memory)，使用事件源驱动方式(event sourcing). 业务逻辑处理器的核心是Disruptors，这是一个并发组件，能够在无锁的情况下实现网络的Queue并发操作。LMAX的研究表明，现在的所谓高性能研究方向似乎和现代CPU设计是相左的。

Thedisruptor component provides asynchronous SEDA behavior much as the standardSEDA Component, but utilizes a Disruptor instead of a BlockingQueue utilized bythe standard SEDA。

举例部分典型的使用方式：

**说明： 2.0版本之后，Consumer的概念被EventProcessor代替，都是类似事件处理消费，下面的例子用Consumer表现，实际和EventProcessor一样效果。**

P=Producer,C=Consumer

**所有的这些模式都可以在源码里找到代码例子，直接可参考**

![Center][]

下面是官方给出的和ArrayBlockingQueue对比测试结果：

<table> 
 <tbody> 
 <tr> 
 <td style="background:#C00000"> &nbsp; </td> 
 <td colspan="2" style="background:#C00000"> Nehalem 2.8Ghz – Windows 7 SP1 64-bit </td> 
 <td colspan="2" style="background:#C00000"> Sandy Bridge 2.2Ghz – Linux 2.6.38 64-bit </td> 
 </tr> 
 <tr> 
 <td style="background:#8C8C8C"> &nbsp; </td> 
 <td style="background:#8C8C8C"> ABQ </td> 
 <td style="background:#8C8C8C"> Disruptor </td> 
 <td style="background:#8C8C8C"> ABQ </td> 
 <td style="background:#8C8C8C"> Disruptor </td> 
 </tr> 
 <tr> 
 <td> Unicast: 1P – 1C </td> 
 <td> 5,339,256 </td> 
 <td> 25,998,336 </td> 
 <td> 4,057,453 </td> 
 <td> 22,381,378 </td> 
 </tr> 
 <tr> 
 <td> Pipeline: 1P – 3C </td> 
 <td> 2,128,918 </td> 
 <td> 16,806,157 </td> 
 <td> 2,006,903 </td> 
 <td> 15,857,913 </td> 
 </tr> 
 <tr> 
 <td> Sequencer: 3P – 1C </td> 
 <td> 5,539,531 </td> 
 <td> 13,403,268 </td> 
 <td> 2,056,118 </td> 
 <td> 14,540,519 </td> 
 </tr> 
 <tr> 
 <td> Multicast: 1P – 3C </td> 
 <td> 1,077,384 </td> 
 <td> 9,377,871 </td> 
 <td> 260,733 </td> 
 <td> 10,860,121 </td> 
 </tr> 
 <tr> 
 <td> Diamond: 1P – 3C </td> 
 <td> 2,113,941 </td> 
 <td> 16,143,613 </td> 
 <td> 2,082,725 </td> 
 <td> 15,295,197 </td> 
 </tr> 
 </tbody> 
</table>

Comparative throughput (in ops per sec)

### 1.3  Disruptor构成 ###

**先介绍几个相关的核心概念。**

**①    环形队列ringbuffer**

数据缓冲区，不同线程之间传递数据的BUFFER。RingBuffer是存储消息的地方，通过一个名为cursor的Sequence对象指示队列的头，协调多个生产者向RingBuffer中添加消息，并用于在消费者端判断RingBuffer是否为空。巧妙的是，表示队列尾的Sequence并没有在RingBuffer中，而是由消费者维护。这样的好处是多个消费者处理消息的方式更加灵活，可以在一个RingBuffer上实现消息的单播，多播，流水线以及它们的组合。在RingBuffer中维护了一个名为gatingSequences的Sequence数组来跟踪相关Seqence。

![Center 1][]

**②    Producer/Consumer**

Producer即生产者，比如下图中的P1. 只是泛指调用 Disruptor 发布事件(我们把写入缓冲队列的一个元素定义为一个事件)的用户代码。

***Consumer和EventProcessor是一个概念，新的版本中由EventProcessor概念替代了Consumer***。

有两种实现策略，一个是SingleThreadedStrategy（单线程策略）另一个是MultiThreadedStrategy（多线程策略），两种策略对应的实现类为SingleProducerSequencer、MultiProducerSequencer【都实现了Sequencer类，之所以叫Sequencer是因为他们都是通过Sequence来实现数据写，Sequence的概念参见③】 ，它们定义在生产者和消费者之间快速、正确地传递数据的并发算法。具体使用哪个根据自己的场景来定，\[*多线程的策略使用了AtomicLong（Java提供的CAS操作），而单线程的使用long，没有锁也没有CAS。这意味着单线程版本会非常快，因为它只有一个生产者，不会产生序号上的冲突*\]

Consumer即下图中的C1,C2,C3，可以看到消费者之间可以形成依赖关系。

老版：

![Center 2][]

（网络配图）

新版：

![Center 3][]

**③Sequence**

Sequence是一个递增的序号，说白了就是计数器；其次，由于需要在线程间共享，所以Sequence是引用传递，并且是线程安全的；再次，Sequence支持CAS操作；最后，为了提高效率，Sequence通过padding来避免伪共享，关于解决伪共享的问题，可以参见下面章节详细的介绍。

通过顺序递增的序号来编号管理通过其进行交换的数据（事件），对数据(事件)的处理过程总是沿着序号逐个递增处理。一个 Sequence 用于跟踪标识某个特定的事件处理者(RingBuffer/Consumer )的处理进度。生产者对RingBuffer的互斥访问，生产者与消费者之间的协调以及消费者之间的协调，都是通过Sequence实现。几乎每一个重要的组件都包含Sequence。

*说明：虽然一个AtomicLong 也可以用于标识进度，但定义 Sequence 来负责该问题还有另一个目的，那就是防止不同的 Sequence 之间的CPU缓存伪共享(Flase Sharing)问题。*

**④Sequence Barrier**

用于保持对RingBuffer的main published Sequence 和Consumer依赖的其它Consumer的 Sequence 的引用。 Sequence Barrier 还定义了决定 Consumer 是否还有可处理的事件的逻辑。SequenceBarrier用来在消费者之间以及消费者和RingBuffer之间建立依赖关系。在Disruptor中，依赖关系实际上指的是Sequence的大小关系，消费者A依赖于消费者B指的是消费者A的Sequence一定要小于等于消费者B的Sequence，这种大小关系决定了处理某个消息的先后顺序。因为所有消费者都依赖于RingBuffer，所以消费者的Sequence一定小于等于RingBuffer中名为cursor的Sequence，即消息一定是先被生产者放到Ringbuffer中，然后才能被消费者处理。*不好理解的话，可以看下面章节事例配合了解。*

SequenceBarrier在初始化的时候会收集需要依赖的组件的Sequence，RingBuffer的cursor会被自动的加入其中。需要依赖其他消费者和/或RingBuffer的消费者在消费下一个消息时，会先等待在SequenceBarrier上，直到所有被依赖的消费者和RingBuffer的Sequence大于等于这个消费者的Sequence。当被依赖的消费者或RingBuffer的Sequence有变化时，会通知SequenceBarrier唤醒等待在它上面的消费者。

**⑤Wait Strategy**

当消费者等待在SequenceBarrier上时，有许多可选的等待策略，不同的等待策略在延迟和CPU资源的占用上有所不同，可以视应用场景选择：

*  BusySpinWaitStrategy ： 自旋等待，类似Linux Kernel使用的自旋锁。低延迟但同时对CPU资源的占用也多。
 *  BlockingWaitStrategy ： 使用锁和条件变量。CPU资源的占用少，延迟大。
 *  SleepingWaitStrategy ： 在多次循环尝试不成功后，选择让出CPU，等待下次调度，多次调度后仍不成功，尝试前睡眠一个纳秒级别的时间再尝试。这种策略平衡了延迟和CPU资源占用，但延迟不均匀。
 *  YieldingWaitStrategy ： 在多次循环尝试不成功后，选择让出CPU，等待下次调。平衡了延迟和CPU资源占用，但延迟也比较均匀。
 *  PhasedBackoffWaitStrategy ： 上面多种策略的综合，CPU资源的占用少，延迟大。

**⑥    Event**

在 Disruptor 的语义中，生产者和消费者之间进行交换的数据被称为事件(Event)。它不是一个被 Disruptor 定义的特定类型，而是由 Disruptor 的使用者定义并指定。

**⑦     EventProcessor**

EventProcessor 持有特定消费者(Consumer)的 Sequence，并提供用于调用事件处理实现的事件循环(Event Loop)。通过把EventProcessor提交到线程池来真正执行，有两类Processor:

其中一类消费者是BatchEvenProcessor。每个BatchEvenProcessor有一个Sequence，来记录自己消费RingBuffer中消息的情况。所以，一个消息必然会被每一个BatchEvenProcessor消费。

另一类消费者是WorkProcessor。每个WorkProcessor也有一个Sequence，多个WorkProcessor还共享一个Sequence用于互斥的访问RingBuffer。一个消息被一个WorkProcessor消费，就不会被共享一个Sequence的其他WorkProcessor消费。这个被WorkProcessor共享的Sequence相当于尾指针

**⑧     EventHandler**

Disruptor定义的事件处理接口，由用户实现，用于处理事件，是 Consumer 的真正实现。开发者实现EventHandler，然后作为入参传递给**EventProcessor的实例。**

综上所述，附官方类图：

![Center 4][]

## 2. Disruptor什么时候用 ##

Disruptor适用于两个独立的处理过程(两个线程)之间交换数据。下面以两个简单场景举例：

**例如场景一：**

停车批量入场数据上报，数据上报后需要对每条入场数据存入DB，还需要发送kafka消息给其他业务系统。如果执行完所有的操作，再返回，那么接口耗时比较长，我们可以批量上报后验证数据正确性，通过后按单条入场数据写入环形队列，然后直接返回成功。

*实现方式一：*启 动2个消费者线程，一个消费者去执行db入库，一个消费者去发送kafka消息。

*实现方式二：*启动4个消费者，2个消费者并发执行db入库，两个消费者并发发送kafka消息，充分利用cpu多核特性，提高执行效率。

*实现方式三：*如果要求写入DB和kafka后，需要给用户发送短信。那么可以启动三个消费者线程，一个执行db插入，一个执行kafka消息发布，最后一个依赖前两个线程执行成功，前两个线程都执行成功后，该线程执行短信发送。

**例如场景二：**

你在网上使用信用卡下订单。一个简单的零售系统将获取您的订单信息，使用信用卡验证服务，以检查您的信用卡号码，然后确认您的订单– 所有这些都在一个单一过程中操作。当进行信用卡有效性检查时，服务器这边的线程会阻塞等待，当然这个对于用户来说停顿不会太长。

在MAX架构中，你将此单一操作过程分为两个，第一部分将获取订单信息，然后输出事件(请求信用卡检查有效性的请求事件)给信用卡公司. 业务逻辑处理器将继续处理其他客户的订单，直至它在输入事件中发现了信用卡已经检查有效的事件，然后获取该事件来确认该订单有效。

## 3.Disruptor为什么快 ##

### 2.1数组实现 ###

用数组实现, 解决了链表节点分散, 不利于cache预读问题，可以预分配用于存储事件内容的内存空间；并且解决了节点每次需要分配和释放, 需要大量的垃圾回收GC问题 *(数组内元素的内存地址的连续性存储的,在硬件级别，数组中的元素是会被预加载的,因为只要一个元素被加载到缓存行，其他相邻的几个元素也会被加载进同一个缓存行)*

### 2.2求余操作优化 ###

求余操作本身也是一种高耗费的操作, 所以ringbuffer的size设成2的n次方, 可以利用位操作来高效实现求余。要找到数组中当前序号指向的元素，可以通过mod操作，正常通过sequence mod array length = arrayindex，优化后可以通过：sequence & （arraylength－1） = array index实现。比如一共有8槽，3&（8－1）=3，HashMap就是用这个方式来定位数组元素的，这种方式比取模的速度更快。

### 2.3 预读与批量 ###

相比链表队列，实现数组预读，减少结点操作空间释放和申请，从而减少gc次数。生产者支持单生产，多生产者模式，单生产者cursor使用普通long实现，无锁加快速度，多生产者才使用Sequence(AtomicLong)

生产和消费元素支持单线程批量操作数据。

### 2.4 Lock-Free ###

系统态的锁会导致线程cache丢失.锁竞争的时候需要进行仲裁. 这个仲裁会涉及到操作系统的内核切换,并且在此过程中操作系统需要做一系列操作, 导致原有线程的指令缓存和数据缓很可能被丢掉

\- 用户态的锁往往是通过自旋锁来实现(自旋即忙等), 而自旋在竞争激烈的时候开销是很大的(一直在消耗CPU资源)

disruptor不使用锁, 使用CAS（Compare And Swap/Set）,严格意义上说仍然是使用锁, 因为CAS本质上也是一种乐观锁, 只不过是CPU级别指令, 不涉及到操作系统, 所以效率很高(AtomicLong实现Sequence)

CAS说明：

l   CAS依赖于处理器的支持, 当然大部分现代处理器都支持.

l   CAS相对于锁是非常高效的, 因为它不需要涉及内核上下文切换进行仲裁.

l   CAS并不是免费的,它会涉及到对指令pipeline加锁, 并且会用到内存barrier（用来刷新内存状态，简单理解就是把缓存中，寄存器中的数据同步到内存中去）

### 2.5 解决伪共享\{False Sharing\} ###

Cpu cache简单示意图：

![Center 5][]

上面谈到lock的耗费, 主要也是由于内核的切换导致cache的丢失

所以cache是优化的关键,cache越接近core就越快,也越小 。

其中L1，L2，L3等级缓存都是由缓存行组成的, 通常是64字节, 一个Java的long类型是8字节，因此在一个缓存行中可以存8个long类型的变量. 缓存行是缓存更新的基本单位, 就算你只读一个变量, 系统也会预读其余7个, 并cache这一行, 并且这行中的任一变量发生改变, 都需要重新加载整行, 而非仅仅重新加载一个变量.

伪共享举例：

*比如在链表中往往会连续定义head和tail指针, 所以对于cache-line的预读, 很有可能会导致head和tail在同一cache-line。在实际使用中, 往往producer线程会持续更改tail指针, 而consumer线程会持续更改head指针*

*当producer线程和consumer线程分别被分配到core2和core1, 就会出现以下状况,由于core1不断改变h, 导致该cache-line过期, 对于core2,虽然他不需要读h, 或者t也没有改变, 但是由于cache-line的整行更新, 所以core2仍然需要不停的更新它的cache,core2的缓存未命中被一个和它本身完全不相干的值h, 而被大大提高, 导致cache效率底下，而实际情况下, core1会不断更新h, 而core2会不断更新t, 导致core1和core2都需要频繁的重新load cache, 这就是伪共享问题*

在Disruptor里我们对RingBuffer的cursor和BatchEventProcessor的序列进行了缓存行填充，如下：

![Center 6][]

### 2.6 使用内存屏障 ###

内存屏障本身不是一种优化方式, 而是你使用lock-free(CAS)的时候, 必须要配合使用内存屏障，因为CPU和memory之间有多级cache,CPU core只会更新cache-line, 而cache-line什么时候flush到memory, 这个是有一定延时的 ,在这个延时当中, 其他CPU core是无法得知你的更新的, 因为只有把cache-line flush到memory后, 其他core中的相应的cache-line才会被置为过期数据,所以如果要保证使用CAS能保证线程间互斥, 即乐观锁, 必须当一个core发生更新后, 其他所有core立刻知道并把相应的cache-line设为过期, 否则在这些core上执行CAS读到的都是过期数据.

内存屏障 = “立刻将cache-lineflush到memory, 没有延时”

*注:可参考java中volatile的原理，同样实现了内存屏障。*

## 4.使用Disruptor开发 ##

下面以车辆入场为例，入场后需要存入数据库，需要发送kafka消息，两步执行完后，给用户发送短信。代码实现如下：(参见代码运行)

开发步骤：

1. 定义事件

![Center 7][]

2. 定义事件工厂

![Center 8][]

3. 定义事件处理的具体实现

![Center 9][]

![Center 10][]![Center 11][]

4. 发布事件类实现(*Disruptor 要求 RingBuffer.publish 必须得到调用，如果发生异常也一样要调用publish ，那么，很显然这个时候需要调用者在事件处理的实现上来判断事件携带的数据是否是正确的或者完整的*)

![Center 12][]

5. 定义用于事件处理的线程池, 指定等待策略, 启动 Disruptor,执行完毕后关闭Disruptor

![Center 13][]

6. 关闭 Disruptor

## 5. 相关资料 ##

* Disruptor源码地址:* [*https://github.com/LMAX-Exchange/disruptor*][https_github.com_LMAX-Exchange_disruptor]

[Center]: /images/20220717/8bc397894d324e76a46dd91c5e808442.png
[Center 1]: /images/20220717/4354512fa0764c7cbe6e09eece8145bd.png
[Center 2]: /images/20220717/a58eb40c315642338209f6e869e09853.png
[Center 3]: /images/20220717/0dcb9f25978d42d5a5c12514ecdd950b.png
[Center 4]: /images/20220717/894fa4e6961c48d9bd61215005dddaa9.png
[Center 5]: /images/20220717/405f2088cfa945f2b13cd0173b64f871.png
[Center 6]: /images/20220717/8d1b529c3e71489da5f4fd085b4e2c7d.png
[Center 7]: /images/20220717/067a860c40f940518c37e671a6cd8664.png
[Center 8]: /images/20220717/04ec96010dc446bc91267cf9a7a63c3e.png
[Center 9]: /images/20220717/b4297994c38b4653ae6898bfe7aa3644.png
[Center 10]: https://img-blog.csdn.net/20160919092731275?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center
[Center 11]: /images/20220717/5902a0872490472fbbea2e199cbc3978.png
[Center 12]: /images/20220717/4e0717b608254213a90ae94bea2b48c9.png
[Center 13]: /images/20220717/fd5c2fdb6e1841d58fc27b70ee7d70c1.png
[https_github.com_LMAX-Exchange_disruptor]: https://github.com/LMAX-Exchange/disruptor