Java虚拟机：低延迟垃圾收集器

向右看齐 2023-01-05 05:27 165阅读 0赞

![垃圾搜集器与内存分配策略.png][.png]

## 低延迟垃圾收集器 ##

> 衡量垃圾收集器的三项最重要的指标是：**内存占用、吞吐量和延迟**

![低延迟垃圾收集器.png][.png 1]

Shenandoah和ZGC，几乎整个工作过程全部都是并发的，只有初始标记、最终标记这些阶段有短暂的停顿，这部分停顿的时间基本上是固定 的，与堆的容量、堆中对象的数量没有正比例关系。这两款目前仍处于实验状态的收集器，被官方命名为“低延迟垃圾收集器”

### 1、Shenandoah收集器 ###

*  Shenandoah（目前）是默认不使用分代收集的
 *  Shenandoah使用连接矩阵的全局数据结构来记录跨Region的引用关系，降低了处理跨代指针时的记忆集维护消耗，也降低了伪共享问题的发生概率。
 *  支持并发的整理算法，Shenandoah的回收阶段可以和用户线程并发执行；

![51b78042be5e84b5c0911b23c4f89fbd.png][]

Shenandoah收集器的工作过程大致可以划分为以下九个阶段：

1.  初始标记
    
     *  首先标记与GC Roots直接关联的对象，暂停用户线程，暂停的时间只与GC Roots的数量相关
2.  并发标记
    
     *  遍历对象图，标记出全部可达的对象，这个阶段 是与用户线程一起并发的，时间长短取决于堆中存活对象的数量以及对象图的结构复杂程度。
3.  最终标记
    
     *  处理剩余的SATB扫描，并在这个阶段统计出回收价值 最高的Region，将这些Region构成一组回收集
4.  并发清理
    
     *  清理那些整个区域内连一个存活对象都没有找到的Region
5.  并发回收
    
     *  并发回收阶段是Shenandoah与之前HotSpot中其他收集器的核心差异。
     *  Shenandoah要把回收集里面的存活对象先复制一份到其他未被使用的Region之中。
     *  并发回收阶段运行的时间长短取决于回收集的大小。
     *  与用户线程一起并发执行
     *  Shenandoah将会通过读屏障和被称为**Brooks Pointers**的转发指针来解决并发回收阶段遇到的这些困难
6.  初始引用更新
    
     *  把堆中所有指 向旧对象的引用修正到复制后的新地址
     *  建立一个线程集合点，确保所有并发回收阶段中进行的收集器线程都已完成分配给它们的对象移动任务
     *  产生产生短暂的暂停
7.  并发引用更新
    
     *  真正开始进行引用更新操作
     *  这个阶段是与用户 线程一起并发的
     *  时间长短取决于内存中涉及的引用数量的多少。
     *  按照内存物理地址的顺序，线性地搜索出引用类型，把旧值改为 新值即可。
8.  最终引用更新
    
     *  修正存在于GC Roots 中的引用。
     *  这个阶段是Shenandoah的最后一次停顿，停顿时间只与GC Roots的数量相关。
9.  并发清理
    
     *  最后再调用一次并发清理过程来回收Immediate Garbage Regions的内存空间，供以后新对象分配使用。

![image.png][]  
![image.png][image.png 1]

#### 转发指针（Brooks Pointer） ####

Shenandoah收集器的并发回收的核心是，转发指针。

转发指针的核心内容就是，在原有对象布局结构的最前面统一增加一个新的引用字段，在正常不处于并发移动的情况下，该引用指向对象自己。

![3e8ec24160fdc7a26e646b229d0d1c7c.png][]

*  从结构上来看，Brooks提出的转发指针与某些早期Java虚拟机使用过的句柄定位有一些相似之处，两者都是一种**间接性的对象访问方式**，差别是句柄通常会统一存储在专门的句柄池中，而**转发指针是分散存放在每一个对象头前面**。
 *  **缺点**：每次对象访问会带来一次额外的转向开销
 *  转发指针加入后带来的收益自然是当对象拥有了一份新的副本时，只需要修改一处指针的值，即旧对象上转发指针的引用位置，使其指向新对象，便可将所有对该对象的访问转 发到新的副本上。这样只要旧对象的内存仍然存在，未被清理掉，虚拟机内存中所有通过旧引用地址访问的代码便仍然可用，都会被自动转发到新对象上继续工作，

![bc365ff9f49311f07d277b40b740a2b6.png][]

Brooks Pointers 转发指针在设计上决定了它是必然会出现多线程竞争问题的。Shenandoah收集器是通过比较交换（Compare And Swap,CAS）操作来保证并发时堆中的访问正确性的。

**转发指针另一点必须注意的是执行频率的问题**

除写屏障以外，为了实现Brooks Pointer，Shenandoah在读、写屏障中都加入了额外的转发处理

#### Shenandoah在实际应用中的性能表现 ####

![image.png][image.png 2]

### 2、ZGC收集器 ###

> 以低延迟为首要目标的一款垃圾收集器。它是基于**动态Region**内存布局，（暂时）**不设年龄分代**，使用了**读屏障**、**染色指针**和**内存多重映射**等技术来实现**可并发的标记-整理算法**的收集器。

#### 1）ZGC的内存布局 ####

*  ZGC的Region具有动态性——动态创建和销毁，以及动态的区域容量大小。
 *  在x64硬件平台下，ZGC的 Region可以具有大、中、小三类容量
 *   *  小型Region（Small Region）：容量固定为2MB，用于放置小于256KB的小对象。
     *  中型Region（Medium Region）：容量固定为32MB，用于放置大于等于256KB但小于4MB的对象。
     *  大型Region（Large Region）：容量不固定，可以动态变化，但必须为2MB的整数倍，**用于放置4MB或以上的大对象**。每个大型Region中只会存放一个大对象，大型Region在ZGC的实 现中是不会被重分配的，因为复制一个大对象的代价非常高昂。

![9ea6507aeee3fb4b1bd408bd5387f9ad.png][]

#### 2）并发整理算法的实现 ####

> 使用了**读屏障**、**染色指针**和**内存多重映射**等技术来实现**可并发的标记-整理算法**  
> ZGC收集器有一个标志性的设计是它采用的**染色指针技术**

##### 染色指针 #####

**染色指针是一种直接将少量额外的信息存储在指针上的技术**，可是为什么指针本身也可以存储额外信息呢？

在64位系统中，理论可以访问的内存高达16EB（2的64次幂）字节。实际上，基于需求（用不到那么多内存）、性能（地址越宽在做地址转换时需要的页表级数越多）和成本（消耗更多晶 体管）的考虑，在AMD64架构中只支持到52位（4PB）的地址总线和48位（256TB）的虚拟地址空 间，所以目前64位的硬件实际能够支持的最大内存只有256TB。此外，操作系统一侧也还会施加自己的约束，64位的Linux则分别支持47位（128TB）的进程虚拟地址空间和46位（64TB）的物理地址空 间，64位的Windows系统甚至只支持44位（16TB）的物理地址空间。

尽管Linux下64位指针的高18位不能用来寻址，但剩余的46位指针所能支持的64TB内存在今天仍然能够充分满足大型服务器的需要。鉴于此，ZGC的染色指针技术继续盯上了这剩下的46位指针宽度，将其高4位提取出来存储四个标志信息。通过这些标志位，虚拟机可以直接从指针中看到其引用对象的三色标记状态、是否进入了重分配集（即被移动过）、是否只能通过finalize()方法才能被访问到。当然，由于这些标志位进一步压缩了原本就只有46位的地址空间，也直接导致 ZGC能够管理的内存不可以超过4TB（2的42次幂）

![image][]

**缺点**：

*  染色指针有4TB的内存限制
 *  不能支持32位平台
 *  不能支持压缩指针（-XX： +UseCompressedOops）

**优势：**

*  染色指针可以使得一旦某个Region的存活对象被移走之后，这个Region立即就能够被释放和重用掉，而不必等待整个堆中所有指向该Region的引用都被修正后才能清理。
 *  染色指针可以大幅减少在垃圾收集过程中内存屏障的使用数量，设置内存屏障，尤其是写屏障的目的通常是为了记录对象引用的变动情况，如果将这些信息直接维护在指针中，显然就可以省去一些专门的记录操作。
 *  染色指针可以作为一种可扩展的存储结构用来记录更多与对象标记、重定位过程相关的数据，以 便日后进一步提高性能。

#### 3）ZGC收集器工作四个大的阶段 ####

![9c8c148c34dad1c309757e877e6c06e3.png][]

1.  并发标记
    
     *  并发标记是遍历对象图做可达性分析的阶段，前后也要经过类似于G1、Shenandoah的初始标记、最终标记的短暂停顿，而且这些停顿阶段所做的事情在目标上也是相类似的。与G1、Shenandoah不同的是，ZGC 的标记是在指针上而不是在对象上进行的，标记阶段会更新染色指针中的Marked 0、Marked 1标志位。
2.  并发预备重分配
    
     *  根据特定的查询条件统计得出 本次收集过程要清理哪些Region，将这些Region组成重分配集
3.  并发重分配
    
     *  把重分 配集中的存活对象复制到新的Region上，并为重分配集中的每个Region维护一个转发表记录从旧对象到新对象的转向关系
4.  并发重映射
    
     *  修正整个堆中指向重分配集中旧对象的所 有引用

**NUMA-Aware的内存分配**

ZGC还有一个常在技术资料上被提及的优点是支持“NUMA-Aware”的内存分配。NUMA（非统一内存访问架构）是一种为多处理器或者多核处理器的计算机所设计的 内存架构。在NUMA架构下，ZGC收集器会优先尝 试在请求线程当前所处的处理器的本地内存上分配对象，以保证高效内存访问。在ZGC之前的收集器

就只有针对吞吐量设计的Parallel Scavenge支持NUMA内存分配，如今ZGC也成为另外一个选择。

**性能测试**

![4ffcf8fc54222aaa0b53839c3cf7036b.png][]

![af6fc57d1ac3cfa96f8f21bc254c99e5.png][]

[.png]: /images/20221119/04623c52f25d4bb29ca0e146cb39f3fe.png
[.png 1]: /images/20221119/db7fe1a41690446785a1c2b18caf3f27.png
[51b78042be5e84b5c0911b23c4f89fbd.png]: /images/20221119/e666cc72fe624c839deed180fc3b9170.png
[image.png]: https://img-blog.csdnimg.cn/img_convert/34d57bee067a3db6920eb0ef774832ce.png
[image.png 1]: https://img-blog.csdnimg.cn/img_convert/ad6f97902d991131e27c78785d0fe11b.png
[3e8ec24160fdc7a26e646b229d0d1c7c.png]: https://img-blog.csdnimg.cn/img_convert/3e8ec24160fdc7a26e646b229d0d1c7c.png
[bc365ff9f49311f07d277b40b740a2b6.png]: https://img-blog.csdnimg.cn/img_convert/bc365ff9f49311f07d277b40b740a2b6.png
[image.png 2]: https://img-blog.csdnimg.cn/img_convert/cfc99a93b27a10fe0e852c461f25c518.png
[9ea6507aeee3fb4b1bd408bd5387f9ad.png]: https://img-blog.csdnimg.cn/img_convert/9ea6507aeee3fb4b1bd408bd5387f9ad.png
[image]: https://img-blog.csdnimg.cn/img_convert/c5a4f8c10a1bddce4a66a0038a0a61a6.png
[9c8c148c34dad1c309757e877e6c06e3.png]: https://img-blog.csdnimg.cn/img_convert/9c8c148c34dad1c309757e877e6c06e3.png
[4ffcf8fc54222aaa0b53839c3cf7036b.png]: https://img-blog.csdnimg.cn/img_convert/4ffcf8fc54222aaa0b53839c3cf7036b.png
[af6fc57d1ac3cfa96f8f21bc254c99e5.png]: https://img-blog.csdnimg.cn/img_convert/af6fc57d1ac3cfa96f8f21bc254c99e5.png