Java 9 中的 GC 調(diào)優(yōu)基礎(chǔ)
來源：原創(chuàng) 時間：2017-11-02 瀏覽：0 次
在經(jīng)過了幾次跳票之后，Java 9終于在原計劃日期的整整一年之后發(fā)布了正式版。Java 9引入了很多新的特性，除了閃瞎眼的Module System和REPL，最重要的變化我認為是默認GC（Garbage Collector）修改為新一代更復雜、更全面、性能更好的G1（Garbage-First）。JDK的維護者在GC選擇上一直是比較保守的，G1從JDK 1.6時代就開始進入開發(fā)者的視野，直到今天正式成為Hotspot的默認GC，也是走了很長的路。
本文將主要講解GC調(diào)優(yōu)需要知道的一些基礎(chǔ)知識，會涉及到一些GC的實現(xiàn)細節(jié)，但不會對實現(xiàn)細節(jié)做很全面的闡述，如果你看完本文之后，能對GC有一個大致的認識，那本文的寫作目的也就達到了。由于在這次寫作過程中，恰逢Java 9正式版發(fā)布，之前都是依賴Java 8的文檔寫的，如果有不正確的地方還望指正。本文將包含以下內(nèi)容：
GC的作用范圍
GC負責的事情
JVM中的4種GC
G1的一些細節(jié)
使用Java 9正式版對G1進行測試
一些簡單的GC調(diào)優(yōu)方法
一、GC的作用范圍
要談GC的作用范圍，首先要談JVM的內(nèi)存結(jié)構(gòu)，JVM內(nèi)存中主要有以下幾個區(qū)域：堆、方法區(qū)（JVM規(guī)范中的叫法，Hotspot大致對應(yīng)的是Metaspace）、棧、本地方法棧、PC等，其中GC主要作用在堆上，如下圖所示：
gc-01
JVM內(nèi)存結(jié)構(gòu)
其中堆和方法區(qū)是所有線程共享的，其他則為線程獨有，HotSpot JVM使用基于分代的垃圾回收機制，所以在堆上又分為幾個不同的區(qū)域（在G1中，各年齡代不再是連續(xù)的一整片內(nèi)存，為了描述方便，這里還使用傳統(tǒng)的表示方法），具體如下圖所示：
gc-02
JVM堆中的分區(qū)
二、GC負責的事情
GC的發(fā)展是隨著JDK（Standard Edition）的發(fā)展一步步發(fā)展起來的，垃圾回收（Garbage Collection）可以說是JDK里最影響性能的行為了。GC做的事情，說白了就是「通過對內(nèi)存進行管理，以保障在內(nèi)存足夠的時候，程序可以正常的使用內(nèi)存」。具體而言，GC通常做的事情有以下3個：
1. 分配對象和對象的年齡管理
通常而言，GC需要管理「在上圖中的年輕代（Young）分配對象，然后通過一系列的年齡管理，將之銷毀或晉升到老年代（Tenured）中去」的過程。這個過程會伴隨著若干次的Minor GC。
對于普通的對象而言，分配內(nèi)存是一件很簡單而且快速的事情。在對象還未創(chuàng)建時，其所占內(nèi)存大小通過類的元數(shù)據(jù)就可以確定，而Eden區(qū)域的內(nèi)存可以認為是連續(xù)的，所以給對象分配內(nèi)存要做的只是在上圖中Eden區(qū)域中把指針移動相應(yīng)的長度，并將地址返回給對象的引用即可。當然實際的過程比這個復雜，在下文中會提到。
不過，有時候一個對象會直接在老年代中創(chuàng)建，這個點也會在后邊提到。
2. 在老年代中進行標記
老年代的GC算法可以大致是認為是一個標記-整理（Mark-Compact，其實是混合了標記-清理，標記-復制和標記-整理）算法，所以老年代的垃圾清理首先要做的就是在老年代對存活的對象（可達性分析，關(guān)于不同的可達性可以參考JDK解構(gòu) – Java中的引用和動態(tài)代理的實現(xiàn)）進行標記，對于尋求大吞吐量的服務(wù)器應(yīng)用來說，這個過程往往需要是并發(fā)的。
標記的過程發(fā)生在Major GC被觸發(fā)之后，不同的GC對于MajorGC的觸發(fā)條件和標記過程的實現(xiàn)也不盡相同。
3. 在老年代中進行壓縮
在上一條的基礎(chǔ)上，將還存活的對象進行壓縮（CMS和G1的行為與此有些不同之處），壓縮的過程就是將存活的對象從老年代的起點進行挨個復制，使得老年代維持在一片連續(xù)的內(nèi)存中，消除內(nèi)存碎片，對于內(nèi)存分配速度的提升會有很大的幫助。
三、GC的種類
Hotspot會根據(jù)宿主機的硬件特性和操作系統(tǒng)類型，將之分為客戶端型（client-class）或者服務(wù)器型（server-class），如果是服務(wù)器型主機，Java 9之前默認使用Parallel GC，Java 9中默認使用G1。對于服務(wù)器型主機的選擇標準是「CPU核心數(shù)大于1，內(nèi)存大于2GB」，所以現(xiàn)在大部分的主機都可以認為是服務(wù)器型主機。
這里討論的所有GC都是基于分代垃圾回收算法的。
1. Serail
Serail是最早的一款GC，它只使用一個線程來做所有的Minor和Major垃圾回收。它在運行時，其他所有的事情都會暫停。其工作方式十分簡單，在需要GC的安全點，它會停止所有其他線程（Stop-The-World），對年輕代進行標記-復制，或?qū)夏甏M行標記-整理。
可以使用JVM參數(shù)-XX:+UseSerialGC來開啟此GC，當使用此參數(shù)時，年輕代和老年代將都是用Serial來做垃圾回收。在年輕代使用標記-復制算法，將Eden中存活的對象和非空的Suvivor區(qū)（From）中存活的對象復制到空的Suvivor區(qū)（To）中去，同時將一部分Suvivor中的對象晉升到老年代去。在老年代則使用標記-整理算法。
看起來Serial古老而簡陋，但在宿主機資源緊張或者JVM堆很小的情況下（比如堆內(nèi)存大小只有不到100M），Serial反而可以達到更好的效果，因為其他并發(fā)或并行GC都是基于多線程的，會帶來額外的線程切換和線程間通信的開銷。
2. Parallel/Throughput
Parallel在Java 9之前是服務(wù)器型宿主機中JVM的默認GC，其垃圾回收的算法和Serial基本相同，不同之處在與它使用多線程來執(zhí)行。由于使用了多線程，可以享受多核CPU帶來的優(yōu)勢，可以通過參數(shù)-XX:+UseParallelGC -XX:+UseParallelOldGC顯示指定。
3. CMS
CMS和G1都屬于「Mostly Concurrent Mark and Sweep Garbage Collector」，可以使用-XX:+UseConcMarkSweepGC參數(shù)打開。CMS的年輕代垃圾回收使用的是Parallel New來做，其行為和Parallel中的差不多相同，他們的實現(xiàn)上有一些不同的地方，比如Parallel可以自動調(diào)節(jié)年輕代中各區(qū)的大小，用的是廣度優(yōu)先搜索等。
老年代使用CMS，CMS的回收和Parallel也基本類似，不同點在與，CMS使用的更復雜的可達性分析步驟，并且不是每次都做壓縮的動作，這樣達到的效果就是，Stop-The-World的時長會降低，JVM運行中斷的時間減少，適合在對延遲敏感的場景下使用。
CMS在Java 9中已經(jīng)被廢棄，但了解CMS的行為對理解G1會有一些幫助，所以這里還是會簡單的敘述一下。CMS的步驟大致如下：
第一次標記
從GC Roots開始，找到它們在老年代中第一個可達的對象，這些對象或者是直接被GC Roots引用，或者通過年輕代中的對象被GC Roots引用。這一步會Stop-The-World。
并發(fā)標記
在第一次標記的基礎(chǔ)上，進一步進行可達性分析，從而標記存活的對象。這一步叫「并發(fā)」標記，是因為做標記的線程是和應(yīng)用的工作線程并發(fā)執(zhí)行的，也就是說，這一步不會Stop-The-World。
第二次標記
在并發(fā)標記的過程中，由于程序仍在執(zhí)行，會導致在并發(fā)標記完成后，有一些對象的可達性會發(fā)生變化，所以需要再次對他們進行標記。這一步會Stop-The-World。
清理
回收不使用的對象，留作以后使用。
CMS的設(shè)計比較復雜，所以也帶來了一些問題，比如浮動垃圾（Floating Garbage，指的是在第一步標記可達，但在第二步執(zhí)行的同時已經(jīng)不可達的對象），由于不做老年代壓縮，導致老年代會出現(xiàn)較多的內(nèi)存碎片。
4. G1
由于「引入了并發(fā)標記」和「不做老年代壓縮」，CMS可以帶來更好的響應(yīng)時延表現(xiàn)，但同時也帶來了一些問題。G1本身就是作為CMS的替代品出現(xiàn)的，在它的使用場景里，堆不再是連續(xù)的被分為上文所說的各種代，整個堆會被分為一個個區(qū)域（Region），每個區(qū)域可以是任何代。如下圖所示：
gc-03使用G1的JVM某時刻的堆內(nèi)存
其中有紅色方框的為年輕代（標S的為Survivor區(qū)域，其他為Eden），其他藍色底的區(qū)域為老年代（標H的為大對象區(qū)域，用以存儲大對象）。
四、G1的一些細節(jié)
G1與以上3種GC相同，也是基于分代的垃圾回收器。它的垃圾回收步驟可以分為年輕代回收（Young-only phase，類似于Minor GC）和混合垃圾回收階段（Space-reclamation phase）。下圖是Oracle文檔中對于此兩個階段的示意圖：
gc-04
G1設(shè)計目標和適用對象
G1的設(shè)計目標是讓大型的JVM可以動態(tài)的控制GC的行為以滿足用戶配置的性能目標。G1會在平衡吞吐和響應(yīng)時延的基礎(chǔ)上，盡可能的滿足用戶的需求。它適用的JVM往往有以下特征：
堆的大小可能達到數(shù)十G（或者更大），同時存活的對象數(shù)量也很多。
對象的分配和年齡增長的行為隨著程序的運行不斷的變化
堆上很容易形成碎片
要求較少的Stop-The-World暫停時間，通常小于數(shù)百毫秒
對G1的行為進行測試
如果想要看垃圾回收的具體執(zhí)行過程，可以使用虛擬機參數(shù)-Xlog:gc*=debug或者-Xlog:gc*=info，前一個會打印更多的細節(jié)。注意傳統(tǒng)的VM參數(shù)-XX:+PrintGCDetails在Java9中已經(jīng)廢棄，會有Warning信息?？梢允褂靡韵麓a中的程序去測試：
在這段代碼中，模擬了常規(guī)程序的使用情況。不斷的生成新的大小不等的對象，這些對象中會有大約10%的機會進入浮動垃圾floatingObjs，浮動垃圾會被定期清除。同時會有一部分的對象進入immortalObjs，這些對象被釋放的機會更少，它們大概率將成為老年代的常住用戶。
從上邊的測試可以得到如下GC日志1，這是一次完整的年輕代GC，從中可以看到，默認的區(qū)域大小為1M，同時將開始一次Full GC，其格式大致為[<虛擬機運行的時長>][<日志級別>][<標簽>] GC(<GC的標識>) <其他信息>
年輕代回收（Young-only）
對于純粹的年輕代回收，其算法很簡單，與Parallel和CMS的年輕代十分類似，這是一個多線程并行執(zhí)行的過程，同樣需要Stop-The-World（對應(yīng)上邊日志中的Pause Young），停下來所有的工作線程，然后將Eden上存活的對象拷貝到Suvivor區(qū)域，這里會將很多個對象從多個不同的區(qū)域拷貝到少數(shù)的幾個區(qū)域內(nèi)，所以這一步在G1中叫做疏散（Evacuation），同時把Suvivor上觸及年齡閾值的對象晉升到老年代區(qū)域。
老年代回收（concurrent cycle）
G1的老年代回收是在老年代空間觸及一個閾值（Initiating Heap Occupancy Percent）之后，這個回收伴隨著年輕代的回收工作，但與上邊所說的回收有些不同。
年輕代回收：伴隨著年輕代的回收工作，同時會執(zhí)行并發(fā)標記和一部分清理的工作，這樣可以共用年輕代垃圾回收的Stop-The-World。
第一次標記：對應(yīng)一次Pause Initial Mark
和CMS的步驟類似，首先進行第一次標記。但實現(xiàn)方法上有很大的區(qū)別，G1首先對當前堆上的對象情況進行一個虛擬快照（Snapshot-At-The-Beginning），然后根據(jù)這個快照對老年代的對象和區(qū)域進行標記，并執(zhí)行之后的垃圾回收。之后像CMS一樣會有并發(fā)標記的過程。
這樣會產(chǎn)生一個問題，在這次回收結(jié)束之后，會有些對象在并發(fā)標記的過程中，它的可達性已經(jīng)變化，導致已經(jīng)不可達的對象仍然沒有被回收。但是這樣能帶來更好的響應(yīng)時間。
重新標記：對應(yīng)一次Pause Remark
在這個階段，G1首先完成上一步開始的標記工作，之后會對特殊引用的對象進行處理（具體可以參考JDK解構(gòu) – Java中的引用和動態(tài)代理的實現(xiàn)），還有對Metaspace區(qū)域進行垃圾回收。這一步會進行Stop-The-World。
清理：對應(yīng)一次Pause Cleanup
這一步主要做的是收集當前堆中的內(nèi)存區(qū)域信息，對空的區(qū)域進行回收，為接下來的空間回收做一些準備工作，清理結(jié)束之后，通常會伴隨著一次年輕代回收，如果判斷不需要進行空間回收，則會進入下一個年輕代回收的工作。這一步會進行Stop-The-World。
混合垃圾回收：對應(yīng)一次或多次Pause Mixed
主要做的是對老年代的區(qū)域內(nèi)存進行疏散（Evacuation），也包含對年輕代的區(qū)域回收工作。同時這一步也會動態(tài)地調(diào)整IHOP
從對G1的GC日志的分析，可以看到G1的垃圾回收行為是基于一個可預測的模型：GC會不斷的主動觸發(fā)垃圾回收，在這個過程中不斷地進行信息統(tǒng)計和系統(tǒng)GC參數(shù)的設(shè)置，然后將上邊這些步驟安排在這些垃圾回收過程中。
大對象的分配
正常情況下，一個對象會在年輕代的Eden中創(chuàng)建，然后通過垃圾回收和年齡管理之后，晉升到老年代。但對于某些比較大的對象，可能會直接分配到老年代去。
對于G1，對象大多數(shù)情況都會在Eden上分配，如果JVM判斷一個對象為大對象（其閾值可以通過-XX:G1HeapRegionSize來設(shè)置），則會直接分配如老年代的大對象區(qū)域中。
對于其他的內(nèi)存區(qū)域連續(xù)的GC，下面是從StackOverflow上搬運過來的對象在堆上的分配過程：
使用 thread local allocation buffer (TLAB), 如果空間足夠，則分配成功。
從名稱便可知，TLAB是線程獨占的，所以線程安全，且速度非?？臁Ｈ绻粋€TLAB滿了，線程會被分配一個新的TLAB。
如果TLAB 空間不夠這次分配對象，但其中還有很多空間可用，則不使用TLAB，直接在Eden中分配對象。
直接在Eden上分配對象要去搶占Eden中的指針操作，其代價較使用TLAB要大一些。
如果Eden的對象分配失敗，出發(fā)Minor GC。
如果Minor GC完成后還不夠，則直接分配到老年代。
一些簡單的GC調(diào)優(yōu)方法
1. 使用不同的索引對象
引用的類型會直接影響其所引用對象的GC行為，當要做一些內(nèi)存敏感的應(yīng)用時，可以參考使用合適的引用類型。具體可以參考JDK解構(gòu) – Java中的引用和動態(tài)代理的實現(xiàn)。
2. 使用Parallel
從上文中可知，Java 8默認的GC是Parallel，它也叫Throughput，所以它的目的是盡可能的增加系統(tǒng)的吞吐量。在Parallel里，可以通過參數(shù)調(diào)節(jié)最大停止時間（-XX:MaxGCPauseMillis，默認無設(shè)置）和吞吐量（-XX:GCTimeRatio，默認值是99，即最大使用1%的時間來做垃圾回收）來調(diào)優(yōu)GC的行為。其中設(shè)置最大停止時間可能會導致GC調(diào)節(jié)各年齡代分區(qū)的尺寸（通過增量來實現(xiàn)）。
3. 使用G1
從Java 9開始G1變成了默認的GC，G1中有一些細節(jié)的概念在上文中沒有敘述，這里先介紹一下：
Remembered Sets（Rsets）：對于每個區(qū)域，都有一個集合記錄這個區(qū)域中所有的引用。
G1 refinement：G1中需要有一系列的線程不斷地維護Rsets。
Collection Sets（Csets）：在垃圾回收中需要被回收的區(qū)域，這些區(qū)域中的可達對象（活著的對象）會被疏散。這些區(qū)域可能是任何年齡代。
寫屏障（Write Barriers）：對于每一次賦值操作，G1都會有兩個寫屏障，寫之前（Pre-Write）一個，寫之后（Post-Write）一個。Pre-write主要與SATB相關(guān)，Post-write主要與Rsets相關(guān)
Dirty Card Queue：寫屏障會將寫的記錄放入這個隊列，會有線程將這里的對象不斷的刷入Rsets。
Green/Yellow/Red Zone：三個會影響處理Dirty Card Queue線程數(shù)的閾值。根據(jù)Dirty Card Queue中元素的個數(shù)，可以來設(shè)置一些GC行為（可以認為是邏輯上將Dirty Card Queue分隔成多個區(qū)域）。Green表示超過此閾值則開始新建線程來處理這個隊列，Yellow表示超過此閾值，強制啟動這些線程，Red表示超過此閾值則會讓寫操作的線程自己來執(zhí)行G1 refinement。
G1提供了豐富的基于不同目的的可調(diào)優(yōu)的參數(shù)，列表如下：
