内存屏障与volatile内存语义的实现

迈不过友情╰ 2023-08-17 15:39 139阅读 0赞

### 内存屏障 ###

为了保证内存可见性，java 编译器在生成指令序列的适当位置会插入内存屏障指令来禁止特定类型的处理器重排序。JMM 把内存屏障指令分为下列四类：

<table> 
 <tbody> 
 <tr> 
 <td> 屏障类型 </td> 
 <td> 指令示例 </td> 
 <td> 说明 </td> 
 </tr> 
 <tr> 
 <td> LoadLoad Barriers </td> 
 <td> Load1; LoadLoad; Load2 </td> 
 <td> 确保 Load1 数据的加载，在Load2 及所有后续装载指令的装载之前。 </td> 
 </tr> 
 <tr> 
 <td> StoreStore Barriers </td> 
 <td> Store1; StoreStore; Store2 </td> 
 <td> 确保 Store1 数据对其他处理器可见（刷新到内存），在 Store2 及所有后续存储指令的存储之前。 </td> 
 </tr> 
 <tr> 
 <td> LoadStore Barriers </td> 
 <td> Load1; LoadStore; Store2 </td> 
 <td> 确保 Load1 数据加载，在 Store2 及所有后续的存储指令刷新到内存之前。 </td> 
 </tr> 
 <tr> 
 <td> StoreLoad Barriers </td> 
 <td> Store1; StoreLoad; Load2 </td> 
 <td> 确保 Store1 数据对其他处理器变得可见（指刷新到内存），在 Load2 及所有后续装载指令的加载之前。StoreLoad Barriers 会使该屏障之前的所有内存访问指令（存储和加载指令）完成之后，才执行该屏障之后的内存访问指令。 </td> 
 </tr> 
 </tbody> 
</table>

StoreLoad Barriers 是一个“全能型”的屏障，它同时具有其他三个屏障的效果。

### volatile内存语义 ###

*  当写一个 volatile 变量时，JMM 会把该线程对应的本地内存中的共享变量刷新到主内存。
 *  当读一个 volatile 变量时，JMM 会把该线程对应的本地内存置为无效。线程接下来将从主内存中读取共享变量。

### 内存语义的实现 ###

为了实现 volatile 内存语义，JMM 会分别限制这两种类型的重排序类型。下面是 JMM 针对编译器制定的 volatile 重排序规则表：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3hjeTExOTMwNjg2Mzk_size_16_color_FFFFFF_t_70][]

举例来说，第三行最后一个单元格的意思是：在程序顺序中，当第一个操作为普通变量的读或写时，如果第二个操作为 volatile 写，则编译器不能重排序这两个操作。

从上表我们可以看出：

*  当第二个操作是 volatile 写时，不管第一个操作是什么，都不能重排序。这个规则确保 volatile 写之前的操作不会被编译器重排序到 volatile 写之后。
 *  当第一个操作是 volatile 读时，不管第二个操作是什么，都不能重排序。这个规则确保 volatile 读之后的操作不会被编译器重排序到 volatile 读之前。
 *  当第一个操作是 volatile 写，第二个操作是 volatile 读时，不能重排序。

为了实现 volatile 的内存语义，编译器在生成字节码时，会在指令序列中插入内存屏障来禁止特定类型的处理器重排序。对于编译器来说，发现一个最优布置来最小化插入屏障的总数几乎不可能，为此，JMM 采取保守策略。下面是基于保守策略的 JMM 内存屏障插入策略：

*  在每个 volatile 写操作的前面插入一个 StoreStore 屏障。
 *  在每个 volatile 写操作的后面插入一个 StoreLoad 屏障。
 *  在每个 volatile 读操作的后面插入一个 LoadLoad 屏障。
 *  在每个 volatile 读操作的后面插入一个 LoadStore 屏障。

下面是volatile 写插入内存屏障后生成的指令序列示意图

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3hjeTExOTMwNjg2Mzk_size_16_color_FFFFFF_t_70 1][]

上图中的 StoreStore 屏障可以保证在 volatile 写之前，其前面的所有普通写操作已经对任意处理器可见了。这是因为 StoreStore 屏障将保障上面所有的普通写在 volatile 写之前刷新到主内存。

这里比较有意思的是 volatile 写后面的 StoreLoad 屏障。这个屏障的作用是避免 volatile 写与后面可能有的 volatile 读 / 写操作重排序。因为编译器常常无法准确判断在一个 volatile 写的后面，是否需要插入一个 StoreLoad 屏障（比如，一个 volatile 写之后方法立即 return）。  
为了保证能正确实现 volatile 的内存语义，JMM 在这里采取了保守策略：在每个 volatile 写的后面或在每个 volatile 读的前面插入一个 StoreLoad 屏障。  
从整体执行效率的角度考虑，JMM 选择了在每个 volatile 写的后面插入一个 StoreLoad 屏障。因为 volatile 写 - 读内存语义的常见使用模式是：一个写线程写 volatile 变量，多个读线程读同一个 volatile 变量。当读线程的数量大大超过写线程时，选择在 volatile 写之后插入 StoreLoad 屏障将带来可观的执行效率的提升。从这里我们可以看到 JMM 在实现上的一个特点：首先确保正确性，然后再去追求执行效率。

下面是volatile 读插入内存屏障后生成的指令序列示意图

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3hjeTExOTMwNjg2Mzk_size_16_color_FFFFFF_t_70 2][]

上图中的 LoadLoad 屏障用来禁止处理器把上面的 volatile 读与下面的普通读重排序。LoadStore 屏障用来禁止处理器把上面的 volatile 读与下面的普通写重排序。

在实际执行时，只要不改变 volatile 写 - 读的内存语义，编译器可以根据具体情况省略不必要的屏障。下面我们通过具体的示例代码来说明：

class VolatileBarrierExample {
        int a;
        volatile int v1 = 1;
        volatile int v2 = 2;
    
        void readAndWrite() {
            int i = v1;           // 第一个 volatile 读 
            int j = v2;           // 第二个 volatile 读 
            a = i + j;            // 普通写 
            v1 = i + 1;          // 第一个 volatile 写 
            v2 = j * 2;          // 第二个 volatile 写 
        }
        …                    // 其他方法 
    }

针对 readAndWrite() 方法，编译器在生成字节码时可以做如下的优化：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3hjeTExOTMwNjg2Mzk_size_16_color_FFFFFF_t_70 3][]

注意，最后的 StoreLoad 屏障不能省略。因为第二个 volatile 写之后，方法立即 return。此时编译器可能无法准确断定后面是否会有 volatile 读或写，为了安全起见，编译器常常会在这里插入一个 StoreLoad 屏障。

由于不同的处理器有不同“松紧度”的处理器内存模型，内存屏障的插入还可以根据具体的处理器内存模型继续优化。以 x86 处理器为例，上图中除最后的 StoreLoad 屏障外，其它的屏障都会被省略。

x86 处理器仅会对写 - 读操作做重排序。X86 不会对读 - 读，读 - 写和写 - 写操作做重排序，因此在 x86 处理器中会省略掉这三种操作类型对应的内存屏障。在 x86 中，JMM 仅需在 volatile 写后面插入一个 StoreLoad 屏障即可正确实现 volatile 写 - 读的内存语义。这意味着在 x86 处理器中，volatile 写的开销比 volatile 读的开销会大很多（因为执行 StoreLoad 屏障开销会比较大）。

参考链接：[http://ifeve.com/java-memory-model-0/][http_ifeve.com_java-memory-model-0]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3hjeTExOTMwNjg2Mzk_size_16_color_FFFFFF_t_70]: /images/20230810/f7b613b9c6704eff87e4ce1f5091a16b.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3hjeTExOTMwNjg2Mzk_size_16_color_FFFFFF_t_70 1]: /images/20230810/52243c1a1fdc45df9d48e1ea13c59808.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3hjeTExOTMwNjg2Mzk_size_16_color_FFFFFF_t_70 2]: /images/20230810/71e188a7bd3248d0bfaf0841a54069c0.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3hjeTExOTMwNjg2Mzk_size_16_color_FFFFFF_t_70 3]: /images/20230810/d80a91b9688d4126beed8958ae34a1db.png
[http_ifeve.com_java-memory-model-0]: http://ifeve.com/java-memory-model-0/