(重点)Netty中的零拷贝

我会带着你远行 2024-04-19 10:14 50阅读 0赞

Netty中的零拷贝与我们传统理解的零拷贝不太一样。  
传统的零拷贝指的是数据传输过程中，不需要CPU进行数据的拷贝。主要是数据在用户空间与内核中间之间的拷贝。

## 传统意义的零拷贝 ##

Non-Zero Copy方式：

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2Nvd2JpbjIwMTI_size_16_color_FFFFFF_t_70]

Zero Copy方式

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2Nvd2JpbjIwMTI_size_16_color_FFFFFF_t_70 1]

**在发送数据的时候，传统的实现方式是：**

这种方式需要四次数据拷贝和四次上下文切换：

1.  数据从磁盘读取到内核的read buffer
2.  数据从内核缓冲区拷贝到用户缓冲区
3.  数据从用户缓冲区拷贝到内核的socket buffer
4.  数据从内核的socket buffer拷贝到网卡接口的缓冲区

明显上面的第二步和第三步是没有必要的，通过java的FileChannel.transferTo方法，可以避免上面两次多余的拷贝（当然这需要底层操作系统支持）

1.  调用transferTo,数据从文件由DMA引擎拷贝到内核read buffer
2.  接着DMA从内核read buffer将数据拷贝到网卡接口buffer

上面的两次操作都不需要CPU参与，所以就达到了零拷贝。

即所谓的 `Zero-copy`, 就是在操作数据时, 不需要将数据 buffer 从一个内存区域拷贝到另一个内存区域. 因为少了一次内存的拷贝, 因此 CPU 的效率就得到的提升.

在 OS 层面上的 `Zero-copy` 通常指避免在 `用户态(User-space)` 与 `内核态(Kernel-space)` 之间来回拷贝数据. 例如 Linux 提供的 `mmap` 系统调用, 它可以将一段用户空间内存映射到内核空间, 当映射成功后, 用户对这段内存区域的修改可以直接反映到内核空间; 同样地, 内核空间对这段区域的修改也直接反映用户空间. 正因为有这样的映射关系, 我们就不需要在 `用户态(User-space)` 与 `内核态(Kernel-space)` 之间拷贝数据, 提高了数据传输的效率.

而需要注意的是, Netty 中的 `Zero-copy` 与上面我们所提到到 OS 层面上的 `Zero-copy` 不太一样, Netty的 `Zero-coyp` 完全是在用户态(Java 层面)的, 它的 `Zero-copy` 的更多的是偏向于 `优化数据操作` 这样的概念.

## Netty中的零拷贝 ##

Netty中也用到了FileChannel.transferTo方法，所以Netty的零拷贝也包括上面将的操作系统级别的零拷贝。除此之外，在ByteBuf的实现上，Netty也提供了零拷贝的一些实现。

关于ByteBuffer，Netty提供了两个接口:

1.  ByteBuf
2.  ByteBufHolder

对于ByteBuf，Netty提供了多种实现：

1.  Heap ByteBuf:直接在堆内存分配
2.  Direct ByteBuf：直接在内存区域分配而不是堆内存(直接内存映射)
3.  CompositeByteBuf：组合Buffer

### Direct Buffers ###

直接在内存区域分配空间，而不是在堆内存中分配。如果使用传统的堆内存分配，当我们需要将数据通过socket发送的时候，就需要从堆内存拷贝到直接内存，然后再由直接内存拷贝到网卡接口层。  
Netty提供的直接Buffer，直接将数据分配到内存空间，从而避免了数据的拷贝，实现了零拷贝。

### Composite Buffers ###

传统的ByteBuffer，如果需要将两个ByteBuffer中的数据组合到一起，我们需要首先创建一个size=size1+size2大小的新的数组，然后将两个数组中的数据拷贝到新的数组中。但是使用Netty提供的组合ByteBuf，就可以避免这样的操作，因为CompositeByteBuf并没有真正将多个Buffer组合起来，而是保存了它们的引用，从而避免了数据的拷贝，实现了零拷贝。

### 对于FileChannel.transferTo的使用 ###

Netty中使用了FileChannel的transferTo方法，该方法依赖于操作系统实现零拷贝。

## 总结 ##

Netty的零拷贝体现在三个方面：

> 1.  Netty的接收和发送ByteBuffer采用DIRECT BUFFERS，使用堆外直接内存进行Socket读写，不需要进行字节缓冲区的二次拷贝。如果使用传统的堆内存（HEAP BUFFERS）进行Socket读写，JVM会将堆内存Buffer拷贝一份到直接内存中，然后才写入Socket中。相比于堆外直接内存，消息在发送过程中多了一次缓冲区的内存拷贝。

> 1.  Netty提供了组合Buffer对象，可以聚合多个ByteBuffer对象，用户可以像操作一个Buffer那样方便的对组合Buffer进行操作，避免了传统通过内存拷贝的方式将几个小Buffer合并成一个大的Buffer。

> 1.  Netty的文件传输采用了transferTo方法，它可以直接将文件缓冲区的数据发送到目标Channel，避免了传统通过循环write方式导致的内存拷贝问题。

参考：

[理解Netty中的零拷贝（Zero-Copy）机制][Netty_Zero-Copy]

[对于 Netty ByteBuf 的零拷贝(Zero Copy) 的理解][Netty ByteBuf _Zero Copy_]

[sendfile“零拷贝”和mmap内存映射][sendfile_mmap]

[NIO效率高的原理之零拷贝与直接内存映射][NIO]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2Nvd2JpbjIwMTI_size_16_color_FFFFFF_t_70]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/18/1db75063d2da432d800e4572ded4c253.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2Nvd2JpbjIwMTI_size_16_color_FFFFFF_t_70 1]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/18/ff2da667e3a94ac7b0ff9f2404452e0a.png
[Netty_Zero-Copy]: https://my.oschina.net/plucury/blog/192577
[Netty ByteBuf _Zero Copy_]: https://www.cnblogs.com/xys1228/p/6088805.html
[sendfile_mmap]: https://blog.csdn.net/keil_wang/article/details/86688271
[NIO]: https://blog.csdn.net/y277an/article/details/98000132