Java虚拟机：HotSpot的算法细节实现

墨蓝 2023-01-05 05:26 116阅读 0赞

![垃圾搜集器与内存分配策略.png][.png]

## HotSpot的算法细节实现 ##

### 1、根节点枚举 ###

*  所有收集器在根节点枚举这一步骤时都是必须暂停用户线程的

> 即使是号称停顿时间可控，或者（几乎）不会发生停顿的CMS、G1、 ZGC等收集器，枚举根节点时也是必须要停顿的。

*  根节点枚举始终还 是必须在一个能保障一致性的快照中才得以进行

> “一致性”的意思是整个枚举期间执行子系统 看起来就像被冻结在某个时间点上，不会出现分析过程中，根节点集合的对象引用关系还在不断变化的情况

目前主流Java虚拟机使用的都是准确式垃圾收集，所以当用户线程停顿下来之后，其实并不需要一个不漏地检查完所有 执行上下文和全局的引用位置，虚拟机应当是有办法直接得到哪些地方存放着对象引用的。

在HotSpot 的解决方案里，是使用一组称为OopMap的数据结构来达到这个目的。一旦类加载动作完成的时候， HotSpot就会把对象内什么偏移量上是什么类型的数据计算出来，在即时编译过程中，也会在特定的位置记录下栈里和寄存器里哪些位置是引用；

HotSpot虚拟机客户端模式下生成的一段String::hashCode()方法的本地代码：

![String::hashCode()方法.png][String_hashCode_.png]

### 2、安全点 ###

> 实际上HotSpot也的确没有为每条指令都生成OopMap，前面已经提到，只是在“特定的位置”记录 了这些信息，这些位置被称为安全点（Safepoint）。

*  有了安全点的设定，也就决定了用户程序执行时并非在代码指令流的任意位置都能够停顿下来开始垃圾收集，**而是强制要求必须执行到达安全点后才能够暂停**。
 *  安全点位置的选取基本上是以“**是否具有让程序长时间执行的特征**”为标准 进行选定的

> “长时间执行”的最明显特征就是指令序列的复用，例如方法调用、循环跳转、异常跳转 等都属于指令序列复用

如何在垃圾收集发生时让所有线程（这里其实不包括 执行JNI调用的线程）都跑到最近的安全点，然后停顿下来。

这里有两种方案可供选择：**抢先式中断**和**主动式中断**

*  抢先式中断不需要线程的执行代码主动去配合，在垃圾收集发生时，系统首先把所有用户线程全部中断，如果发现有用户线程中断的地 方不在安全点上，就恢复这条线程执行，让它一会再重新中断，直到跑到安全点上。现在几乎没有虚 拟机实现采用抢先式中断来暂停线程响应GC事件。
 *  主动式中断的思想是当垃圾收集需要中断线程的时候，不直接对线程操作，仅仅简单地**设置一个标志位**，各个线程执行过程时会不停地主动去**轮询这个标志**，一旦**发现中断**标志为真时就自己在**最近的安全点上主动中断挂起**。轮询标志的地方和安全点是重合的，另外还要加上所有创建对象和其他 需要在Java堆上分配内存的地方，这是为了检查是否即将要发生垃圾收集，避免没有足够内存分配新对象。

### 3、安全区域 ###

> 安全区域是指能够确保在某一段代码片段之中，引用关系不会发生变化，因此，在这个区域中任 意地方开始垃圾收集都是安全的。我们也可以把安全区域看作被扩展拉伸了的安全点。

### 4、记忆集与卡表 ###

> 为解决对象跨代引用所带来的问题，垃圾收集器在新生代中建 立了名为**记忆集**（Remembered Set）的数据结构，用以避免把整个老年代加进GC Roots扫描范围。  
> 记忆集是一种用于记录从非收集区域指向收集区域的指针集合的抽象数据结构。

![记忆集.png][.png 1]

*  字长精度：每个记录精确到一个机器字长（就是处理器的寻址位数，如常见的32位或64位，这个 精度决定了机器访问物理内存地址的指针长度），该字包含跨代指针。
 *  对象精度：每个记录精确到一个对象，该对象里有字段含有跨代指针。
 *  卡精度：每个记录精确到一块内存区域，该区域内有对象含有跨代指针。

> 卡表就是记忆集的一种具体实现，它定义了记忆集的记录精度、与堆内存的映射关系等。

卡表最简单的形式可以只是一个字节数组，而HotSpot虚拟机确实也是这样做的。以下这行代码是HotSpot默认的卡表标记逻辑：  
![image.png][]

> 字节数组CARD\_TABLE的每一个元素都对应着其标识的内存区域中一块特定大小的内存块，这个 内存块被称作“卡页”

![卡页.png][.png 2]

> 一个卡页的内存中通常包含不止一个对象，只要卡页内有一个（或更多）对象的字段存在着跨代 指针，那就将对应卡表的数组元素的值标识为1，称为这个元素变脏（Dirty），没有则标识为0。在垃 圾收集发生时，只要筛选出卡表中变脏的元素，就能轻易得出哪些卡页内存块中包含跨代指针;

### 5、写屏障 ###

> 在HotSpot虚拟机里是通过**写屏障**技术维护卡表状态的  
> 写屏障可以看作在虚拟机层面对“引用类型字段赋值”这个动作的AOP切面  
> 在引用对象赋值时会产生一个环形（Around）通知，供程序执行额外的动作，也就是说赋值的 前后都在写屏障的覆盖范畴内。在赋值前的部分的写屏障叫作**写前屏障**，在赋值后的则叫作**写后屏障**。

![卡表状态.png][.png 3]  
卡表在高并发场景下还面临着“**伪共享**”问题。

> 伪共享是处 理并发底层细节时一种经常需要考虑的问题，现代中央处理器的缓存系统中是以**缓存行** 为单位存储的，当多线程修改互相独立的变量时，如果这些变量恰好共享同一个缓存行，就会彼此影响（写回、无效化或者同步）而导致性能降低，这就是伪共享问题。

在JDK 7之后，HotSpot虚拟机增加了一个新的参数`-XX：+UseCondCardMark`，用来决定是否开启 卡表更新的条件判断。开启会增加一次额外判断的开销，但能够避免伪共享问题，两者各有性能损耗，是否打开要根据应用实际运行情况来进行测试权衡。

### 6、并发的可达性分析 ###

> 可达性分析算法理论上要求全过程都基于一个能保障一致性的快照中才能够进行分析， 这意味着必须全程冻结用户线程的运行。

**为什么必须在一个能保障一致性的快照上才能进 行对象图的遍历**？

为了能解释清楚这个问题，我们引入**三色标记**（Tri-color Marking）作为工具来辅助推导，把遍历对象图过程中遇到的对象，按照“是否访问过”这个条件标记成以下三种颜色：

*  白色：表示对象尚未被垃圾收集器访问过。显然在可达性分析刚刚开始的阶段，所有的对象都是白色的，若在分析结束的阶段，仍然是白色的对象，即代表不可达。
 *  黑色：表示对象已经被垃圾收集器访问过，且这个对象的所有引用都已经扫描过。黑色的对象代表已经扫描过，它是安全存活的，如果有其他对象引用指向了黑色对象，无须重新扫描一遍。黑色对象不可能直接（不经过灰色对象）指向某个白色对象。
 *  灰色：表示对象已经被垃圾收集器访问过，但这个对象上至少存在一个引用还没有被扫描过。

![ff357d826bddac2c1831d0ca3bab3ab2.png][]

![ec7b83f259129cd83e0a286388620ddc.png][]

Wilson于1994年在理论上证明了，当且仅当以下两个条件同时满足时，会产生“对象消失”的问题，即**原本应该是黑色的对象被误标为白色**：

*  赋值器插入了一条或多条从黑色对象到白色对象的新引用；
 *  赋值器删除了全部从灰色对象到该白色对象的直接或间接引用。

> 两种解决方案：

*  **增量更新**（Incremental Update）
 *   *  增量更新要破坏的是第一个条件，当黑色对象插入新的指向白色对象的引用关系时，就将这个新 插入的引用记录下来，等并发扫描结束之后，再将这些记录过的引用关系中的黑色对象为根，重新扫描一次。

![e1ae22407fd0b120d95253e69b8ea18b.png][]

*  **原始快照**（Snapshot At The Beginning，SATB）。
 *   *  原始快照要破坏的是第二个条件，当灰色对象要删除指向白色对象的引用关系时，就将这个要删除的引用记录下来，在并发扫描结束之后，再将这些记录过的引用关系中的灰色对象为根，重新扫描 一次。

[.png]: /images/20221119/ef4abd36303948eba185c43efbfacc80.png
[String_hashCode_.png]: /images/20221119/a4070dbdfb334a20bad457420fa2d887.png
[.png 1]: /images/20221119/9e07efd695d841f9a78f6dcbd751ba3f.png
[image.png]: https://img-blog.csdnimg.cn/img_convert/001001d96e36cd7ae172fd3ccad2725f.png
[.png 2]: https://img-blog.csdnimg.cn/img_convert/349ed12b91d2a851357cf8f70d6296f7.png
[.png 3]: https://img-blog.csdnimg.cn/img_convert/ea20bc5984557b984fb9bcd7fc73521e.png
[ff357d826bddac2c1831d0ca3bab3ab2.png]: https://img-blog.csdnimg.cn/img_convert/ff357d826bddac2c1831d0ca3bab3ab2.png
[ec7b83f259129cd83e0a286388620ddc.png]: https://img-blog.csdnimg.cn/img_convert/ec7b83f259129cd83e0a286388620ddc.png
[e1ae22407fd0b120d95253e69b8ea18b.png]: https://img-blog.csdnimg.cn/img_convert/e1ae22407fd0b120d95253e69b8ea18b.png