天天看点

双重检查锁定与延迟初始化

在java程序中,有时候可能需要推迟一些高开销的对象初始化操作,并且只有在使用这些对象时才进行初始化。此时程序员可能会采用延迟初始化。但要正确实现线程安全的延迟初始化需要一些技巧,否则很容易出现问题。比如,下面是非线程安全的延迟初始化对象的示例代码:

在unsafelazyinitialization中,假设a线程执行代码1的同时,b线程执行代码2。此时,线程a可能会看到instance引用的对象还没有完成初始化(出现这种情况的原因见后文的“问题的根源”)。

对于unsafelazyinitialization,我们可以对getinstance()做同步处理来实现线程安全的延迟初始化。示例代码如下:

迟初始化。示例代码如下:

由于对getinstance()做了同步处理,synchronized将导致性能开销。如果getinstance()被多个线程频繁的调用,将会导致程序执行性能的下降。反之,如果getinstance()不会被多个线程频繁的调用,那么这个延迟初始化方案将能提供令人满意的性能。

在早期的jvm中,synchronized(甚至是无竞争的synchronized)存在这巨大的性能开销。因此,人们想出了一个“聪明”的技巧:双重检查锁定(double-checked locking)。人们想通过双重检查锁定来降低同步的开销。下面是使用双重检查锁定来实现延迟初始化的示例代码:

如上面代码所示,如果第一次检查instance不为null,那么就不需要执行下面的加锁和初始化操作。因此可以大幅降低synchronized带来的性能开销。上面代码表面上看起来,似乎两全其美:

在多个线程试图在同一时间创建对象时,会通过加锁来保证只有一个线程能创建对象。

在对象创建好之后,执行getinstance()将不需要获取锁,直接返回已创建好的对象。

双重检查锁定看起来似乎很完美,但这是一个错误的优化!在线程执行到第4行代码读取到instance不为null时,instance引用的对象有可能还没有完成初始化。

前面的双重检查锁定示例代码的第7行(instance = new singleton();)创建一个对象。这一行代码可以分解为如下的三行伪代码:

上面三行伪代码中的2和3之间,可能会被重排序(在一些jit编译器上,这种重排序是真实发生的,详情见参考文献1的“out-of-order writes”部分)。2和3之间重排序之后的执行时序如下:

根据《the java language specification, java se 7 edition》(后文简称为java语言规范),所有线程在执行java程序时必须要遵守intra-thread semantics。intra-thread semantics保证重排序不会改变单线程内的程序执行结果。换句话来说,intra-thread semantics允许那些在单线程内,不会改变单线程程序执行结果的重排序。上面三行伪代码的2和3之间虽然被重排序了,但这个重排序并不会违反intra-thread semantics。这个重排序在没有改变单线程程序的执行结果的前提下,可以提高程序的执行性能。

为了更好的理解intra-thread semantics,请看下面的示意图(假设一个线程a在构造对象后,立即访问这个对象):

双重检查锁定与延迟初始化

如上图所示,只要保证2排在4的前面,即使2和3之间重排序了,也不会违反intra-thread semantics。

下面,再让我们看看多线程并发执行的时候的情况。请看下面的示意图:

双重检查锁定与延迟初始化

由于单线程内要遵守intra-thread semantics,从而能保证a线程的程序执行结果不会被改变。但是当线程a和b按上图的时序执行时,b线程将看到一个还没有被初始化的对象。

※注:本文统一用红色的虚箭线标识错误的读操作,用绿色的虚箭线标识正确的读操作。

回到本文的主题,doublecheckedlocking示例代码的第7行(instance = new singleton();)如果发生重排序,另一个并发执行的线程b就有可能在第4行判断instance不为null。线程b接下来将访问instance所引用的对象,但此时这个对象可能还没有被a线程初始化!下面是这个场景的具体执行时序:

时间

线程a

线程b

t1

a1:分配对象的内存空间

t2

a3:设置instance指向内存空间

t3

b1:判断instance是否为空

t4

b2:由于instance不为null,线程b将访问instance引用的对象

t5

a2:初始化对象

t6

a4:访问instance引用的对象

这里a2和a3虽然重排序了,但java内存模型的intra-thread semantics将确保a2一定会排在a4前面执行。因此线程a的intra-thread semantics没有改变。但a2和a3的重排序,将导致线程b在b1处判断出instance不为空,线程b接下来将访问instance引用的对象。此时,线程b将会访问到一个还未初始化的对象。

在知晓了问题发生的根源之后,我们可以想出两个办法来实现线程安全的延迟初始化:

不允许2和3重排序;

允许2和3重排序,但不允许其他线程“看到”这个重排序。

后文介绍的两个解决方案,分别对应于上面这两点。

对于前面的基于双重检查锁定来实现延迟初始化的方案(指doublecheckedlocking示例代码),我们只需要做一点小的修改(把instance声明为volatile型),就可以实现线程安全的延迟初始化。请看下面的示例代码:

注意,这个解决方案需要jdk5或更高版本(因为从jdk5开始使用新的jsr-133内存模型规范,这个规范增强了volatile的语义)。

当声明对象的引用为volatile后,“问题的根源”的三行伪代码中的2和3之间的重排序,在多线程环境中将会被禁止。上面示例代码将按如下的时序执行:

双重检查锁定与延迟初始化

这个方案本质上是通过禁止上图中的2和3之间的重排序,来保证线程安全的延迟初始化。

jvm在类的初始化阶段(即在class被加载后,且被线程使用之前),会执行类的初始化。在执行类的初始化期间,jvm会去获取一个锁。这个锁可以同步多个线程对同一个类的初始化。

基于这个特性,可以实现另一种线程安全的延迟初始化方案(这个方案被称之为initialization on demand holder idiom):

假设两个线程并发执行getinstance(),下面是执行的示意图:

双重检查锁定与延迟初始化

这个方案的实质是:允许“问题的根源”的三行伪代码中的2和3重排序,但不允许非构造线程(这里指线程b)“看到”这个重排序。

初始化一个类,包括执行这个类的静态初始化和初始化在这个类中声明的静态字段。根据java语言规范,在首次发生下列任意一种情况时,一个类或接口类型t将被立即初始化:

t是一个类,而且一个t类型的实例被创建;

t是一个类,且t中声明的一个静态方法被调用;

t中声明的一个静态字段被赋值;

t中声明的一个静态字段被使用,而且这个字段不是一个常量字段;

t是一个顶级类(top level class,见java语言规范的§7.6),而且一个断言语句嵌套在t内部被执行。

在instancefactory示例代码中,首次执行getinstance()的线程将导致instanceholder类被初始化(符合情况4)。

由于java语言是多线程的,多个线程可能在同一时间尝试去初始化同一个类或接口(比如这里多个线程可能在同一时刻调用getinstance()来初始化instanceholder类)。因此在java中初始化一个类或者接口时,需要做细致的同步处理。

java语言规范规定,对于每一个类或接口c,都有一个唯一的初始化锁lc与之对应。从c到lc的映射,由jvm的具体实现去自由实现。jvm在类初始化期间会获取这个初始化锁,并且每个线程至少获取一次锁来确保这个类已经被初始化过了(事实上,java语言规范允许jvm的具体实现在这里做一些优化,见后文的说明)。

对于类或接口的初始化,java语言规范制定了精巧而复杂的类初始化处理过程。java初始化一个类或接口的处理过程如下(这里对类初始化处理过程的说明,省略了与本文无关的部分;同时为了更好的说明类初始化过程中的同步处理机制,笔者人为的把类初始化的处理过程分为了五个阶段):

第一阶段:通过在class对象上同步(即获取class对象的初始化锁),来控制类或接口的初始化。这个获取锁的线程会一直等待,直到当前线程能够获取到这个初始化锁。

假设class对象当前还没有被初始化(初始化状态state此时被标记为state = noinitialization),且有两个线程a和b试图同时初始化这个class对象。下面是对应的示意图:

双重检查锁定与延迟初始化

下面是这个示意图的说明:

a1:尝试获取class对象的初始化锁。这里假设线程a获取到了初始化锁

b1:尝试获取class对象的初始化锁,由于线程a获取到了锁,线程b将一直等待获取初始化锁

a2:线程a看到线程还未被初始化(因为读取到state == noinitialization),线程设置state = initializing

a3:线程a释放初始化锁

第二阶段:线程a执行类的初始化,同时线程b在初始化锁对应的condition上等待:

双重检查锁定与延迟初始化

a1:执行类的静态初始化和初始化类中声明的静态字段

b1:获取到初始化锁

b2:读取到state == initializing

b3:释放初始化锁

b4:在初始化锁的condition中等待

第三阶段:线程a设置state = initialized,然后唤醒在condition中等待的所有线程:

双重检查锁定与延迟初始化

a1:获取初始化锁

a2:设置state = initialized

a3:唤醒在condition中等待的所有线程

a4:释放初始化锁

a5:线程a的初始化处理过程完成

第四阶段:线程b结束类的初始化处理:

双重检查锁定与延迟初始化

b1:获取初始化锁

b2:读取到state == initialized

b4:线程b的类初始化处理过程完成

线程a在第二阶段的a1执行类的初始化,并在第三阶段的a4释放初始化锁;线程b在第四阶段的b1获取同一个初始化锁,并在第四阶段的b4之后才开始访问这个类。根据java内存模型规范的锁规则,这里将存在如下的happens-before关系:

双重检查锁定与延迟初始化

这个happens-before关系将保证:线程a执行类的初始化时的写入操作(执行类的静态初始化和初始化类中声明的静态字段),线程b一定能看到。

第五阶段:线程c执行类的初始化的处理:

双重检查锁定与延迟初始化

c1:获取初始化锁

c2:读取到state == initialized

c3:释放初始化锁

c4:线程c的类初始化处理过程完成

在第三阶段之后,类已经完成了初始化。因此线程c在第五阶段的类初始化处理过程相对简单一些(前面的线程a和b的类初始化处理过程都经历了两次锁获取-锁释放,而线程c的类初始化处理只需要经历一次锁获取-锁释放)。

线程a在第二阶段的a1执行类的初始化,并在第三阶段的a4释放锁;线程c在第五阶段的c1获取同一个锁,并在在第五阶段的c4之后才开始访问这个类。根据java内存模型规范的锁规则,这里将存在如下的happens-before关系:

双重检查锁定与延迟初始化

这个happens-before关系将保证:线程a执行类的初始化时的写入操作,线程c一定能看到。

※注1:这里的condition和state标记是本文虚构出来的。java语言规范并没有硬性规定一定要使用condition和state标记。jvm的具体实现只要实现类似功能即可。

※注2:java语言规范允许java的具体实现,优化类的初始化处理过程(对这里的第五阶段做优化),具体细节参见java语言规范的12.4.2章。

通过对比基于volatile的双重检查锁定的方案和基于类初始化的方案,我们会发现基于类初始化的方案的实现代码更简洁。但基于volatile的双重检查锁定的方案有一个额外的优势:除了可以对静态字段实现延迟初始化外,还可以对实例字段实现延迟初始化。

延迟初始化降低了初始化类或创建实例的开销,但增加了访问被延迟初始化的字段的开销。在大多数时候,正常的初始化要优于延迟初始化。如果确实需要对实例字段使用线程安全的延迟初始化,请使用上面介绍的基于volatile的延迟初始化的方案;如果确实需要对静态字段使用线程安全的延迟初始化,请使用上面介绍的基于类初始化的方案。

<a href="http://www.ibm.com/developerworks/java/library/j-dcl/index.html">double-checked locking and the singleton pattern</a>

<a href="http://211.136.10.52/videoplayer/jls7.pdf?ich_u_r_i=65c11c3170e6035516bc2b5112b8d474&amp;ich_s_t_a_r_t=0&amp;ich_e_n_d=0&amp;ich_k_e_y=1345098923751563362465&amp;ich_t_y_p_e=1&amp;ich_d_i_s_k_i_d=2&amp;ich_u_n_i_t=1">the java language specification, java se 7 edition</a>

<a href="http://www.cs.umd.edu/~pugh/java/memorymodel/jsr133.pdf">jsr-133: java memory model and thread specification</a>

<a href="http://www.amazon.com/java-concurrency-practice-brian-goetz/dp/0321349601/ref=pd_sim_b_1">java concurrency in practice</a>

<a href="http://www.amazon.com/effective-java-2nd-joshua-bloch/dp/0321356683/ref=sr_11_1?ie=utf8&amp;qid=1231898916&amp;sr=11-1">effective java (2nd edition)</a>

<a href="http://www.cs.umd.edu/users/pugh/java/memorymodel/jsr-133-faq.html">jsr 133 (java memory model) faq</a>

<a href="http://gee.cs.oswego.edu/dl/jmm/cookbook.html">the jsr-133 cookbook for compiler writers</a>

<a href="http://www.ibm.com/developerworks/java/library/j-jtp03304/index.html">java theory and practice: fixing the java memory model, part 2</a>