Java 中的僞共享詳解及解決方案

1. 什麼是僞共享

CPU 緩存系統中是以緩存行（cache line）為機關存儲的。目前主流的 CPU Cache 的 Cache Line 大小都是 64 Bytes。在多線程情況下，如果需要修改“共享同一個緩存行的變量”，就會無意中影響彼此的性能，這就是僞共享（False Sharing）。

2. 緩存行

由于共享變量在 CPU 緩存中的存儲是以緩存行為機關，一個緩存行可以存儲多個變量（存滿目前緩存行的位元組數）；而CPU對緩存的修改又是以緩存行為最小機關的，那麼就會出現上訴的僞共享問題。

Cache Line 可以簡單的了解為 CPU Cache 中的最小緩存機關，今天的 CPU 不再是按位元組通路記憶體，而是以 64 位元組為機關的塊(chunk)拿取，稱為一個緩存行(cache line)。當你讀一個特定的記憶體位址，整個緩存行将從主存換入緩存，并且通路同一個緩存行内的其它值的開銷是很小的。

3. CPU 的三級緩存

由于 CPU 的速度遠遠大于記憶體速度，是以 CPU 設計者們就給 CPU 加上了緩存(CPU Cache)。 以免運算被記憶體速度拖累。（就像我們寫代碼把共享資料做Cache不想被DB存取速度拖累一樣），CPU Cache 分成了三個級别：L1，L2，L3。越靠近CPU的緩存越快也越小。所 以L1 緩存很小但很快，并且緊靠着在使用它的 CPU 核心。L2 大一些，也慢一些，并且仍然隻能被一個單獨的 CPU 核使用。L3 在現代多核機器中更普遍，仍然更大，更慢，并且被單個插槽上的所有 CPU 核共享。最後，你擁有一塊主存，由全部插槽上的所有 CPU 核共享。

當 CPU 執行運算的時候，它先去L1查找所需的資料，再去L2，然後是L3，最後如果這些緩存中都沒有，所需的資料就要去主記憶體拿。走得越遠，運算耗費的時間就越長。是以如果你在做一些很頻繁的事，你要確定資料在L1緩存中。

image

4. 緩存關聯性

目前常用的緩存設計是N路組關聯(N-Way Set Associative Cache)，他的原理是把一個緩存按照N個 Cache Line 作為一組（Set），緩存按組劃為等分。每個記憶體塊能夠被映射到相對應的set中的任意一個緩存行中。比如一個16路緩存，16個 Cache Line 作為一個Set，每個記憶體塊能夠被映射到相對應的 Set 中的16個 CacheLine 中的任意一個。一般地，具有一定相同低bit位位址的記憶體塊将共享同一個Set。

下圖為一個2-Way的Cache。由圖中可以看到 Main Memory 中的 Index 0,2,4 都映射在Way0的不同 CacheLine 中，Index 1,3,5都映射在Way1的不同 CacheLine 中。

5. MESI 協定

多核 CPU 都有自己的專有緩存（一般為L1，L2），以及同一個 CPU 插槽之間的核共享的緩存（一般為L3）。不同核心的CPU緩存中難免會加載同樣的資料，那麼如何保證資料的一緻性呢，就是 MESI 協定了。

在 MESI 協定中，每個 Cache line 有4個狀态，可用 2 個 bit 表示，它們分别是：

M(Modified)：這行資料有效，資料被修改了，和記憶體中的資料不一緻，資料隻存在于本 Cache 中；

E(Exclusive)：這行資料有效，資料和記憶體中的資料一緻，資料隻存在于本 Cache 中；

S(Shared)：這行資料有效，資料和記憶體中的資料一緻，資料存在于很多 Cache 中；

I(Invalid)：這行資料無效。

那麼，假設有一個變量i=3（應該是包括變量i的緩存塊，塊大小為緩存行大小）；已經加載到多核（a,b,c）的緩存中，此時該緩存行的狀态為S；此時其中的一個核a改變了變量i的值，那麼在核a中的目前緩存行的狀态将變為M，b,c核中的目前緩存行狀态将變為I。如下圖：

6. 解決原理

為了避免由于 false sharing 導緻 Cache Line 從 L1,L2,L3 到主存之間重複載入，我們可以使用資料填充的方式來避免，即單個資料填充滿一個CacheLine。這本質是一種空間換時間的做法。

7. Java 對于僞共享的傳統解決方案

/***
* 微信公衆号：Java技術棧
**/
import java.util.concurrent.atomic.AtomicLong;

public final class FalseSharing
    implements Runnable
{
    public final static int NUM_THREADS = 4; // change
    public final static long ITERATIONS = 500L * 1000L * 1000L;
    private final int arrayIndex;

    private static VolatileLong[] longs = new VolatileLong[NUM_THREADS];
    static
    {
        for (int i = 0; i < longs.length; i++)
        {
            longs[i] = new VolatileLong();
        }
    }

    public FalseSharing(final int arrayIndex)
    {
        this.arrayIndex = arrayIndex;
    }

    public static void main(final String[] args) throws Exception
    {
        final long start = System.nanoTime();
        runTest();
        System.out.println("duration = " + (System.nanoTime() - start));
    }

    private static void runTest() throws InterruptedException
    {
        Thread[] threads = new Thread[NUM_THREADS];

        for (int i = 0; i < threads.length; i++)
        {
            threads[i] = new Thread(new FalseSharing(i));
        }

        for (Thread t : threads)
        {
            t.start();
        }

        for (Thread t : threads)
        {
            t.join();
        }
    }

    public void run()
    {
        long i = ITERATIONS + 1;
        while (0 != --i)
        {
            longs[arrayIndex].set(i);
        }
    }

    public static long sumPaddingToPreventOptimisation(final int index)
    {
        VolatileLong v = longs[index];
        return v.p1 + v.p2 + v.p3 + v.p4 + v.p5 + v.p6;
    }

    //jdk7以上使用此方法(jdk7的某個版本oracle對僞共享做了優化)
    public final static class VolatileLong
    {
        public volatile long value = 0L;
        public long p1, p2, p3, p4, p5, p6;
    }

    // jdk7以下使用此方法
    public final static class VolatileLong
    {
        public long p1, p2, p3, p4, p5, p6, p7; // cache line padding
        public volatile long value = 0L;
        public long p8, p9, p10, p11, p12, p13, p14; // cache line padding

    }
}
           

8. Java 8 中的解決方案

Java 8 中已經提供了官方的解決方案，Java 8 中新增了一個注解：

@sun.misc.Contended

。加上這個注解的類會自動補齊緩存行，需要注意的是此注解預設是無效的，需要在 jvm 啟動時設定

-XX:-RestrictContended

才會生效。

@sun.misc.Contended
public final static class VolatileLong {
    public volatile long value = 0L;
    //public long p1, p2, p3, p4, p5, p6;
           

參考文獻

http://igoro.com/archive/gallery-of-processor-cache-effects/ http://ifeve.com/false-sharing/ http://blog.csdn.net/muxiqingyang/article/details/6615199 https://yq.aliyun.com/articles/62865

@碼農們，你們是怎麼了解和解決僞共享的？歡迎留言！

推薦：

Spring Boot & Cloud 最強技術教程

掃描關注我們的微信公衆号，幹貨每天更新。