【JVM】虚拟机HotSpot的算法细节实现

港控/mmm° 2024-04-08 11:37 72阅读 0赞

### 前言 ###

> 本文主要学习虚拟机中HotSpot的算法细节实现。

### 概述 ###

Java 虚拟机 (JVM) 的实现以及 Java HotSpot 技术的主要特点：

**自适应编译器**：标准解释器用于启动应用程序。当应用程序运行时，会分析代码以检测性能瓶颈或热点。Java HotSpot VM 编译代码的性能关键部分以提高性能，但不编译很少使用的代码（大部分应用程序）。Java HotSpot VM 使用自适应编译器来决定如何使用内联等技术优化编译后的代码。

**快速内存分配和垃圾收集**：Java HotSpot 技术为对象和快速、高效、最先进的垃圾收集器提供快速内存分配。

**线程同步**：Java HotSpot 技术提供了一种线程处理能力，旨在扩展以在大型共享内存多处理器服务器中使用。

### 根节点枚举 ###

> 固定可作为GC Roots的节点主要在全局性的引用（例如常量或类静态属性）与执行上下文（例如栈帧中的本地变量表）中。

迄今为止，所有收集器在根节点枚举这一步骤时都是必须暂停用户线程的，因此毫无疑问根节点枚举与之前提及的整理内存碎片一样会面临相似的“Stop The World”的困扰。

由于目前主流Java虚拟机使用的都是准确式垃圾收集，所以当用户线程停顿下来之后，其实并不需要一个不漏地检查完所有执行上下文和全局的引用位置，虚拟机应当是有办法直接得到哪些地方存放着对象引用的。在HotSpot  
的解决方案里，是使用一组称为OopMap的数据结构来达到这个目的。一旦类加载动作完成的时候，HotSpot就会把对象内什么偏移量上是什么类型的数据计算出来，在即时编译过程中，也会在特定的位置记录下栈里和寄存器里哪些位置是引用。这样收集器在扫描时就可以直接得知这些信息了，并不需要真正一个不漏地从方法区等GC Roots开始查找。

### 安全点 ###

> 实际上HotSpot也的确没有为每条指令都生成OopMap，前面已经提到，只是在“特定的位置”记录 了这些信息，这些位置被称为安全点（Safepoint）。

安全点位置的选取基本上是以“是否具有让程序长时间执行的特征”为标准进行选定的，因为每条指令执行的时间都非常短暂，程序不太可能因为指令流长度太长这样的原因而长时间执行，“长时间执行”的最明显特征就是指令序列的复用，例如方法调用、循环跳转、异常跳转等都属于指令序列复用，所以只有具有这些功能的指令才会产生安全点。

如何在垃圾收集发生时让所有线程（这里其实不包括执行JNI调用的线程）都跑到最近的安全点，然后停顿下来。这里有两种方案可供选择：  
**抢先式中断（Preemptive Suspension））**

抢先式中断不需要线程的执行代码主动去配合，在垃圾收集发生时，系统首先把所有用户线程全部中断，如果发现有用户线程中断的地方不在安全点上，就恢复这条线程执行，让它一会再重新中断，直到跑到安全点上。现在几乎没有虚拟机实现采用抢先式中断来暂停线程响应GC事件。

**主动式中断（Voluntary Suspension**  
主动式中断的思想是当垃圾收集需要中断线程的时候，不直接对线程操作，仅仅简单地设置一  
个标志位，各个线程执行过程时会不停地主动去轮询这个标志，一旦发现中断标志为真时就自己在最  
近的安全点上主动中断挂起。轮询标志的地方和安全点是重合的，另外还要加上所有创建对象和其他  
需要在Java堆上分配内存的地方，这是为了检查是否即将要发生垃圾收集，避免没有足够内存分配新  
对象。

### 安全区域 ###

> 安全区域是指能够确保在某一段代码片段之中，引用关系不会发生变化，因此，在这个区域中任 意地方开始垃圾收集都是安全的。我们也可以把安全区域看作被扩展拉伸了的安全点。

当用户线程执行到安全区域里面的代码时，首先会标识自己已经进入了安全区域，那样当这段时间里虚拟机要发起垃圾收集时就不必去管这些已声明自己在安全区域内的线程了。当线程要离开安全区域时，它要检查虚拟机是否已经完成了根节点枚举（或者垃圾收集过程中其他需要暂停用户线程的阶段），如果完成了，那线程就当作没事发生过，继续执行；否则它就必须一直等待，直到收到可以离开安全区域的信号为止。

### 记忆集与卡表 ###

> 讲解分代收集理论的时候，提到了为解决对象跨代引用所带来的问题，垃圾收集器在新生代中建 立了名为记忆集（Remembered Set）的数据结构，用以避免把整个老年代加进GC Roots扫描范围。

记忆集是一种用于记录从非收集区域指向收集区域的指针集合的抽象数据结构。

更为粗犷的记录粒度来节省记忆集的存储和维护成本，下面列举了一些可供选择（当然也可以选择这个范  
围以外的）的记录精度：

> ·**字长精度**：每个记录精确到一个机器字长（就是处理器的寻址位数，如常见的32位或64位，这个精度决定了机器访问物理内存地址的指针长度），该字包含跨代指针。
> 
> ·**对象精度**：每个记录精确到一个对象，该对象里有字段含有跨代指针。
> 
> ·**卡精度**：每个记录精确到一块内存区域，该区域内有对象含有跨代指针。

第三种“卡精度”所指的是用一种称为“卡表”（Card Table）的方式去实现记忆集，这也是目前最常用的一种记忆集实现形式。卡表最简单的形式可以只是一个字节数组，而HotSpot虚拟机确实也是这样做的。

### 写屏障 ###

> 在HotSpot虚拟机里是通过写屏障（Write Barrier）技术维护卡表状态的。

赋值前的部分写屏障叫做**写前屏障（Pre-Write Barrier）**，在赋值后的则叫做**写后屏障（Post-Write Barrier）**。

应用写屏障后，虚拟机就会为所有赋值操作生成相应的指令，一旦收集器在写屏障中增加了更新卡表操作，无论更新的是不是老年代对新生代对象的引用，每次只要对引用进行更新，就会产生额外的开销，不过这个开销与Minor GC时扫描整个老年代的代价相比还是低很多的。

除了写屏障的开销外，卡表在高并发场景下还面临着“**伪共享**”（False Sharing）问题。伪共享是处理并发底层细节时一种经常需要考虑的问题，现代中央处理器的缓存系统中是以缓存行（Cache Line）为单位存储的，当多线程修改相互独立的变量时，如果这些变量恰好共享同一个缓存行，就会彼此影响（写回、无效化或者同步）而导致性能降低，这就是伪共享问题。

为了避免伪共享问题，一种简单的解决方案是不采用无条件的写屏障，而是先检查卡表标记，只有当该卡表元素未被标记过时才将其标记为脏，即将卡表更新的逻辑变为以下代码所示：

if (CARD_TABLE [this address >> 9] != 0)
        CARD_TABLE [this address >> 9] = 0;

在JDK7之后，HotSpot虚拟机增加了一个新的参数：`-XX:+UseCondCardMark`，用来决定是否开启卡表更新的条件判断。开启会增加一次额外判断的开销，但能避免伪共享问题，两者各有性能损耗，是否打开要根据应用实际运行情况来进行测试权益。

### 并发的可达性分析 ###

> 当前主流语言的垃圾收集器都是以可达性分析算法来判定对象是否存活的。

可达性分析算法理论上要求全过程都基于一个能保障一致性的快照中才能够进行分析，这意味着必须全程冻结用户线程的运行。在根节点枚举这个步骤中，由于GC Roots相比整个Java堆中的全部对象毕竟来说还是极少数，且在各种优化技巧的加持下，它带来的停顿已经是非常短暂且相对固定的了。

若想解决或者降低用户线程的停顿，就要先搞清楚为什么必须在一个能保障一致性的快照上才能进行对象图的遍历？为了能解释清楚这个问题，我们引入了三色标记（Tri-color-Marking）作为工具来辅助推导，把遍历对象图过程中遇到的对象，按照“是否访问过”这个条件标记成以下三种颜色：

**白色**：表示对象尚未被垃圾收集器访问过。显然在可达性分析刚刚开始的阶段，所有的对象都是白色的，若在可达性分析结束的阶段，仍然是白色的对象，即代表不可达。

**黑色**：表示对象已被垃圾收集器访问过，且这个对象的所有引用都已被扫描过。黑色的对象代表已经扫描过，它是安全存活的，如果有其它对象引用指向了黑色对象，无需重新扫描一遍。黑色对象不可能直接（不经过灰色对象）指向某个白色对象。

**灰色**：表示对象已经被垃圾收集器访问过，但这个对象上至少存在一个引用还没有被扫描过。  
若用户线程与收集器是并发工作的，收集器在对象图上标记颜色，同时用户线程在修改引用关系——即修改对象图的结构，这样可能出现两种后果，一种是把原本消亡的对象错误标记为存活，这种情况可容忍且可在下次收集清理掉就好；另一种是把原本存活的对象错误标记为已消亡，程序肯定会因此而发生错误。下图演示了这样的致命错误是如何产生的  
![在这里插入图片描述][35eab01bcb774b1aa817eb2ed79936dc.jpeg]  
wilson于1994年在理论上证明了，当且仅当以下两个条件同时满足时，会产生“对象消失”的问题，即原本应该是黑色的对象被误标为白色：

> 赋值器插入了一条或多条从黑色对象到白色对象的新引用  
> 赋值器删除了全部从灰色对象到该白色对象的直接或间接引用

因此，我们要解决并发扫描时的对象消失问题，只需破坏这两个条件中任意一个即可。由此分别产生了两种解决方案：**增量更新（Incremental Update）和原始快照（Snapshot At The Beginning, SATB）**。

增量更新要破坏的是第一个条件，当黑色对象插入到指向新的指向白色对象的引用关系时，就将这个新插入的引用记录下来，等并发扫描结束之后，再将这些记录过的引用关系中的黑色对象为根，重新扫描一次。可简单理解为黑色对象一旦新插入了指向白色对象的引用之后，它就变回灰色对象了。

原始快照要破幻的是第二个条件，当灰色对象要删除指向白色对象的引用关系时，就将这个要删除的引用记录下来，在并发扫描结束之后，再将这些记录过的引用关系中的灰色对象为根，重新扫描一次。可简化理解为无论引用关系是否删除与否，都会按照刚开始扫描那一刻的对象图快照来进行搜索。

以上无论是对引用关系的记录还是删除，虚拟机的记录操作都是通过写屏障实现的。

以上介绍的HotSpot虚拟机如何发起垃圾回收、如何加速内存回收，以及如何保证回收正确性问题，但是虚拟机如何具体地进行垃圾回收动作仍然未涉及。因为内存回收如何进行是由虚拟机采用哪一款垃圾收集器所决定的，而通常虚拟机中往往有多种垃圾收集器。

参考：

> 《深入理解Java虚拟机》第三版  
> ![在这里插入图片描述][9f80c58679d34a179ca3e89e79f28a58.png]  
>  点赞 收藏 关注

[35eab01bcb774b1aa817eb2ed79936dc.jpeg]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/08/6996bdf4328a4624aeec33143e3b33cc.jpeg
[9f80c58679d34a179ca3e89e79f28a58.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/08/25985673619d4fca92b926758a55bd6e.png