天天看點

Java記憶體模型

Java記憶體模型即Java Memory Model,簡稱JMM。JMM定義了Java 虛拟機(JVM)在計算機記憶體(RAM)中的工作方式。JVM是整個計算機虛拟模型,是以JMM是隸屬于JVM的。

如果我們要想深入了解Java并發程式設計,就要先了解好Java記憶體模型。Java記憶體模型定義了多線程之間共享變量的可見性以及如何在需要的時候對共享變量進行同步。原始的Java記憶體模型效率并不是很理想,是以Java1.5版本對其進行了重構,現在的Java8仍沿用了Java1.5的版本。

在并發程式設計領域,有兩個關鍵問題:線程之間的通信和同步。

線程的通信是指線程之間以何種機制來交換資訊。在指令式程式設計中,線程之間的通信機制有兩種共享記憶體和消息傳遞。

在共享記憶體的并發模型裡,線程之間共享程式的公共狀态,線程之間通過寫-讀記憶體中的公共狀态來隐式進行通信,典型的共享記憶體通信方式就是通過共享對象進行通信。

在消息傳遞的并發模型裡,線程之間沒有公共狀态,線程之間必須通過明确的發送消息來顯式進行通信,在java中典型的消息傳遞方式就是wait()和notify()。

關于Java線程之間的通信,可以參考線程之間的通信(thread signal)。

同步是指程式用于控制不同線程之間操作發生相對順序的機制。

在共享記憶體并發模型裡,同步是顯式進行的。程式員必須顯式指定某個方法或某段代碼需要線上程之間互斥執行。

在消息傳遞的并發模型裡,由于消息的發送必須在消息的接收之前,是以同步是隐式進行的。

Java線程之間的通信總是隐式進行,整個通信過程對程式員完全透明。如果編寫多線程程式的Java程式員不了解隐式進行的線程之間通信的工作機制,很可能會遇到各種奇怪的記憶體可見性問題。

上面講到了Java線程之間的通信采用的是過共享記憶體模型,這裡提到的共享記憶體模型指的就是Java記憶體模型(簡稱JMM),JMM決定一個線程對共享變量的寫入何時對另一個線程可見。從抽象的角度來看,JMM定義了線程和主記憶體之間的抽象關系:線程之間的共享變量存儲在主記憶體(main memory)中,每個線程都有一個私有的本地記憶體(local memory),本地記憶體中存儲了該線程以讀/寫共享變量的副本。本地記憶體是JMM的一個抽象概念,并不真實存在。它涵蓋了緩存,寫緩沖區,寄存器以及其他的硬體和編譯器優化。

Java記憶體模型

從上圖來看,線程A與線程B之間如要通信的話,必須要經曆下面2個步驟:

下面通過示意圖來說明這兩個步驟: 

Java記憶體模型

如上圖所示,本地記憶體A和B有主記憶體中共享變量x的副本。假設初始時,這三個記憶體中的x值都為0。線程A在執行時,把更新後的x值(假設值為1)臨時存放在自己的本地記憶體A中。當線程A和線程B需要通信時,線程A首先會把自己本地記憶體中修改後的x值重新整理到主記憶體中,此時主記憶體中的x值變為了1。随後,線程B到主記憶體中去讀取線程A更新後的x值,此時線程B的本地記憶體的x值也變為了1。

從整體來看,這兩個步驟實質上是線程A在向線程B發送消息,而且這個通信過程必須要經過主記憶體。JMM通過控制主記憶體與每個線程的本地記憶體之間的互動,來為java程式員提供記憶體可見性保證。

上面也說到了,Java記憶體模型隻是一個抽象概念,那麼它在Java中具體是怎麼工作的呢?為了更好的了解上Java記憶體模型工作方式,下面就JVM對Java記憶體模型的實作、硬體記憶體模型及它們之間的橋接做詳細介紹。

在JVM内部,Java記憶體模型把記憶體分成了兩部分:線程棧區和堆區,下圖展示了Java記憶體模型在JVM中的邏輯視圖: 

Java記憶體模型

JVM中運作的每個線程都擁有自己的線程棧,線程棧包含了目前線程執行的方法調用相關資訊,我們也把它稱作調用棧。随着代碼的不斷執行,調用棧會不斷變化。

線程棧還包含了目前方法的所有本地變量資訊。一個線程隻能讀取自己的線程棧,也就是說,線程中的本地變量對其它線程是不可見的。即使兩個線程執行的是同一段代碼,它們也會各自在自己的線程棧中建立本地變量,是以,每個線程中的本地變量都會有自己的版本。

所有原始類型(boolean,byte,short,char,int,long,float,double)的本地變量都直接儲存線上程棧當中,對于它們的值各個線程之間都是獨立的。對于原始類型的本地變量,一個線程可以傳遞一個副本給另一個線程,當它們之間是無法共享的。

堆區包含了Java應用建立的所有對象資訊,不管對象是哪個線程建立的,其中的對象包括原始類型的封裝類(如Byte、Integer、Long等等)。不管對象是屬于一個成員變量還是方法中的本地變量,它都會被存儲在堆區。

下圖展示了調用棧和本地變量都存儲在棧區,對象都存儲在堆區: 

Java記憶體模型

一個本地變量如果是原始類型,那麼它會被完全存儲到棧區。 

一個本地變量也有可能是一個對象的引用,這種情況下,這個本地引用會被存儲到棧中,但是對象本身仍然存儲在堆區。

對于一個對象的成員方法,這些方法中包含本地變量,仍需要存儲在棧區,即使它們所屬的對象在堆區。 

對于一個對象的成員變量,不管它是原始類型還是包裝類型,都會被存儲到堆區。

Static類型的變量以及類本身相關資訊都會随着類本身存儲在堆區。

堆中的對象可以被多線程共享。如果一個線程獲得一個對象的應用,它便可通路這個對象的成員變量。如果兩個線程同時調用了同一個對象的同一個方法,那麼這兩個線程便可同時通路這個對象的成員變量,但是對于本地變量,每個線程都會拷貝一份到自己的線程棧中。

下圖展示了上面描述的過程: 

Java記憶體模型

不管是什麼記憶體模型,最終還是運作在計算機硬體上的,是以我們有必要了解計算機硬體記憶體架構,下圖就簡單描述了當代計算機硬體記憶體架構: 

Java記憶體模型

現代計算機一般都有2個以上CPU,而且每個CPU還有可能包含多個核心。是以,如果我們的應用是多線程的話,這些線程可能會在各個CPU核心中并行運作。

在CPU内部有一組CPU寄存器,也就是CPU的儲存器。CPU操作寄存器的速度要比操作計算機主存快的多。在主存和CPU寄存器之間還存在一個CPU緩存,CPU操作CPU緩存的速度快于主存但慢于CPU寄存器。某些CPU可能有多個緩存層(一級緩存和二級緩存)。計算機的主存也稱作RAM,所有的CPU都能夠通路主存,而且主存比上面提到的緩存和寄存器大很多。

當一個CPU需要通路主存時,會先讀取一部分主存資料到CPU緩存,進而在讀取CPU緩存到寄存器。當CPU需要寫資料到主存時,同樣會先flush寄存器到CPU緩存,然後再在某些節點把緩存資料flush到主存。

正如上面講到的,Java記憶體模型和硬體記憶體架構并不一緻。硬體記憶體架構中并沒有區分棧和堆,從硬體上看,不管是棧還是堆,大部分資料都會存到主存中,當然一部分棧和堆的資料也有可能會存到CPU寄存器中,如下圖所示,Java記憶體模型和計算機硬體記憶體架構是一個交叉關系: 

Java記憶體模型

當對象和變量存儲到計算機的各個記憶體區域時,必然會面臨一些問題,其中最主要的兩個問題是:

當多個線程同時操作同一個共享對象時,如果沒有合理的使用volatile和synchronization關鍵字,一個線程對共享對象的更新有可能導緻其它線程不可見。

想象一下我們的共享對象存儲在主存,一個CPU中的線程讀取主存資料到CPU緩存,然後對共享對象做了更改,但CPU緩存中的更改後的對象還沒有flush到主存,此時線程對共享對象的更改對其它CPU中的線程是不可見的。最終就是每個線程最終都會拷貝共享對象,而且拷貝的對象位于不同的CPU緩存中。

下圖展示了上面描述的過程。左邊CPU中運作的線程從主存中拷貝共享對象obj到它的CPU緩存,把對象obj的count變量改為2。但這個變更對運作在右邊CPU中的線程不可見,因為這個更改還沒有flush到主存中: 

Java記憶體模型

要解決共享對象可見性這個問題,我們可以使用java volatile關鍵字。 Java’s volatile keyword. volatile 關鍵字可以保證變量會直接從主存讀取,而對變量的更新也會直接寫到主存。volatile原理是基于CPU記憶體屏障指令實作的,後面會講到。

如果多個線程共享一個對象,如果它們同時修改這個共享對象,這就産生了競争現象。

如下圖所示,線程A和線程B共享一個對象obj。假設線程A從主存讀取Obj.count變量到自己的CPU緩存,同時,線程B也讀取了Obj.count變量到它的CPU緩存,并且這兩個線程都對Obj.count做了加1操作。此時,Obj.count加1操作被執行了兩次,不過都在不同的CPU緩存中。

如果這兩個加1操作是串行執行的,那麼Obj.count變量便會在原始值上加2,最終主存中的Obj.count的值會是3。然而下圖中兩個加1操作是并行的,不管是線程A還是線程B先flush計算結果到主存,最終主存中的Obj.count隻會增加1次變成2,盡管一共有兩次加1操作。 

Java記憶體模型

要解決上面的問題我們可以使用java synchronized代碼塊。synchronized代碼塊可以保證同一個時刻隻能有一個線程進入代碼競争區,synchronized代碼塊也能保證代碼塊中所有變量都将會從主存中讀,當線程退出代碼塊時,對所有變量的更新将會flush到主存,不管這些變量是不是volatile類型的。

詳細請見 volatile和synchronized的差別

在執行程式時,為了提高性能,編譯器和處理器會對指令做重排序。但是,JMM確定在不同的編譯器和不同的處理器平台之上,通過插入特定類型的<code>Memory Barrier</code>來禁止特定類型的編譯器重排序和處理器重排序,為上層提供一緻的記憶體可見性保證。

編譯器優化重排序:編譯器在不改變單線程程式語義的前提下,可以重新安排語句的執行順序。

指令級并行的重排序:如果不存l在資料依賴性,處理器可以改變語句對應機器指令的執行順序。

記憶體系統的重排序:處理器使用緩存和讀寫緩沖區,這使得加載和存儲操作看上去可能是在亂序執行。

如果兩個操作通路同一個變量,其中一個為寫操作,此時這兩個操作之間存在資料依賴性。 

編譯器和處理器不會改變存在資料依賴性關系的兩個操作的執行順序,即不會重排序。

不管怎麼重排序,單線程下的執行結果不能被改變,編譯器、runtime和處理器都必須遵守as-if-serial語義。

上面講到了,通過記憶體屏障可以禁止特定類型處理器的重排序,進而讓程式按我們預想的流程去執行。記憶體屏障,又稱記憶體栅欄,是一個CPU指令,基本上它是一條這樣的指令:

保證特定操作的執行順序。

影響某些資料(或則是某條指令的執行結果)的記憶體可見性。

編譯器和CPU能夠重排序指令,保證最終相同的結果,嘗試優化性能。插入一條Memory Barrier會告訴編譯器和CPU:不管什麼指令都不能和這條Memory Barrier指令重排序。

Memory Barrier所做的另外一件事是強制刷出各種CPU cache,如一個<code>Write-Barrier</code>(寫入屏障)将刷出所有在Barrier之前寫入 cache 的資料,是以,任何CPU上的線程都能讀取到這些資料的最新版本。

這和java有什麼關系?上面java記憶體模型中講到的volatile是基于Memory Barrier實作的。

如果一個變量是<code>volatile</code>修飾的,JMM會在寫入這個字段之後插進一個<code>Write-Barrier</code>指令,并在讀這個字段之前插入一個<code>Read-Barrier</code>指令。這意味着,如果寫入一個<code>volatile</code>變量,就可以保證:

一個線程寫入變量a後,任何線程通路該變量都會拿到最新值。

在寫入變量a之前的寫入操作,其更新的資料對于其他線程也是可見的。因為Memory Barrier會刷出cache中的所有先前的寫入。

從jdk5開始,java使用新的JSR-133記憶體模型,基于happens-before的概念來闡述操作之間的記憶體可見性。

在JMM中,如果一個操作的執行結果需要對另一個操作可見,那麼這兩個操作之間必須要存在happens-before關系,這個的兩個操作既可以在同一個線程,也可以在不同的兩個線程中。

與程式員密切相關的happens-before規則如下:

程式順序規則:一個線程中的每個操作,happens-before于該線程中任意的後續操作。

螢幕鎖規則:對一個鎖的解鎖操作,happens-before于随後對這個鎖的加鎖操作。

volatile域規則:對一個volatile域的寫操作,happens-before于任意線程後續對這個volatile域的讀。

傳遞性規則:如果 A happens-before B,且 B happens-before C,那麼A happens-before C。

注意:兩個操作之間具有happens-before關系,并不意味前一個操作必須要在後一個操作之前執行!僅僅要求前一個操作的執行結果,對于後一個操作是可見的,且前一個操作按順序排在後一個操作之前。

繼續閱讀