Tomcat記憶體溢出的原因
在生産環境中tomcat記憶體設定不好很容易出現記憶體溢出。造成記憶體溢出是不一樣的,當然處理方式也不一樣。
這裡根據平時遇到的情況和相關資料進行一個總結。常見的一般會有下面三種情況:
1.OutOfMemoryError: Java heap space
2.OutOfMemoryError: PermGen space
3.OutOfMemoryError: unable to create new native thread.
Tomcat記憶體溢出解決方案
對于前兩種情況,在應用本身沒有記憶體洩露的情況下可以用設定tomcat jvm參數來解決。(-Xms -Xmx -XX:PermSize -XX:MaxPermSize)
最後一種可能需要調整作業系統和tomcat jvm參數同時調整才能達到目的。
第一種:是堆溢出。
原因分析:
JVM堆的設定是指java程式運作過程中JVM可以調配使用的記憶體空間的設定.JVM在啟動的時候會自動設定Heap size的值,其初始空間(即-Xms)是實體記憶體的1/64,最大空間(-Xmx)是實體記憶體的1/4。可以利用JVM提供的-Xmn -Xms -Xmx等選項可進行設定。Heap size 的大小是Young Generation 和Tenured Generaion 之和。
在JVM中如果98%的時間是用于GC且可用的Heap size 不足2%的時候将抛出此異常資訊。
Heap Size 最大不要超過可用實體記憶體的80%,一般的要将-Xms和-Xmx選項設定為相同,而-Xmn為1/4的-Xmx值。
沒有記憶體洩露的情況下,調整-Xms -Xmx參數可以解決。
-Xms:初始堆大小
-Xmx:最大堆大小
但堆的大小受下面三方面影響:
1.相關作業系統的資料模型(32-bt還是64-bit)限制;(32位系統下,一般限制在1.5G~2G;我在2003 server 系統下(實體記憶體:4G和6G,jdk:1.6)測試 1612M,64位作業系統對記憶體無限制。)
2.系統的可用虛拟記憶體限制;
3.系統的可用實體記憶體限制。
堆的大小可以使用 java -Xmx***M version 指令來測試。支援的話會出現jdk的版本号,不支援會報錯。
-Xms -Xmx一般配置成一樣比較好比如set JAVA_OPTS= -Xms1024m -Xmx1024m
其初始空間(即-Xms)是實體記憶體的1/64,最大空間(-Xmx)是實體記憶體的1/4。可以利用JVM提供的-Xmn -Xms -Xmx等選項可
進行設定
執行個體,以下給出1G記憶體環境下java jvm 的參數設定參考:
JAVA_OPTS="-server -Xms800m -Xmx800m -XX:PermSize=64M -XX:MaxNewSize=256m -XX:MaxPermSize=128m -Djava.awt.headless=true "
JAVA_OPTS="-server -Xms768m -Xmx768m -XX:PermSize=128m -XX:MaxPermSize=256m -XX:
NewSize=192m -XX:MaxNewSize=384m"
CATALINA_OPTS="-server -Xms768m -Xmx768m -XX:PermSize=128m -XX:MaxPermSize=256m
-XX:NewSize=192m -XX:MaxNewSize=384m"
伺服器為1G記憶體:JAVA_OPTS="-server -Xms800m -Xmx800m -XX:PermSize=64M -XX:MaxNewSize=256m -XX:MaxPermSize=128m -Djava.awt.headless=true "
伺服器為64位、2G記憶體: JAVA_OPTS=’-server -Xms1024m -Xmx1536m -XX:PermSize=128M -XX:MaxNewSize=256m -XX:MaxPermSize=256m’
-------------------解決方案1:-----------------------------
前提:是執行startup.bat啟動tomcat的方式
Linux伺服器:
在/usr/local/apache-tomcat-5.5.23/bin 目錄下的catalina.sh
添加:JAVA_OPTS=’-Xms512m -Xmx1024m’
或者 JAVA_OPTS="-server -Xms800m -Xmx800m -XX:MaxNewSize=256m"
或者 CATALINA_OPTS="-server -Xms256m -Xmx300m"
Windows伺服器:
在catalina.bat最前面加入
set JAVA_OPTS=-Xms128m -Xmx350m
或者set CATALINA_OPTS=-Xmx300M -Xms256M
(差別是一個直接設定jvm記憶體,另一個設定tomcat記憶體,CATALINA_OPTS似乎可以與JAVA_OPTS不加差別的使用)
基本參數說明
-client,-server
這兩個參數用于設定虛拟機使用何種運作模式,一定要作為第一個參數,client模式啟動比較快,但運作時性能和記憶體管理效率不如server模式,通常用于用戶端應用程式。相反,server模式啟動比client慢,但可獲得更高的運作性能。
在windows上,預設的虛拟機類型為client模式,如果要使用server模式,就需要在啟動虛拟機時加-server參數,以獲得更高性能,對伺服器端應用,推薦采用server模式,尤其是多個CPU的系統。在Linux,Solaris上預設采用server模式。
此外,在多cup下,建議用server模式
-Xms
設定虛拟機可用記憶體堆的初始大小,預設機關為位元組,該大小為1024的整數倍并且要大于1MB,可用k(K)或m(M)為機關來設定較大的記憶體數。初始堆大小為2MB。加“m”說明是MB,否則就是KB了。
例如:-Xms6400K,-Xms256M
-Xmx
設定虛拟機的最大可用大小,預設機關為位元組。該值必須為1024整數倍,并且要大于2MB。可用k(K)或m(M)為機關來設定較大的記憶體數。預設堆最大值為64MB。
例如:-Xmx81920K,-Xmx80M
當應用程式申請了大記憶體運作時虛拟機抛出java.lang.OutOfMemoryError: Java heap space錯誤,就需要使用-Xmx設定較大的可用記憶體堆。
PermSize/MaxPermSize:定義Perm段的尺寸,即永久儲存區域的大小,PermSize為JVM啟動時初始化Perm的記憶體大小;MaxPermSize為最大可占用的Perm記憶體大小。在使用者生産環境上一般将這兩個值設為相同,以減少運作期間系統在記憶體申請上所花的開銷。
如果用startup.bat啟動tomcat,OK設定生效.夠成功的配置設定200M記憶體.
-------------------解決方案2:------------------------
前提:是執行startup.bat啟動tomcat的方式
手動設定Heap size
Windows伺服器:
修改TOMCAT_HOME/bin/catalina.bat,在“echo “Using CATALINA_BASE: $CATALINA_BASE””上面加入以下行:
Java代碼
set JAVA_OPTS=%JAVA_OPTS% -server -Xms800m -Xmx800m -XX:MaxNewSize=256m
注:JAVA_OPTS是保留先前設定。
Linux伺服器:
修改TOMCAT_HOME/bin/catalina.sh
在“echo “Using CATALINA_BASE: C A T A L I N A B A S E " ” 上 面 加 入 以 下 行 : J A V A O P T S = " CATALINA_BASE"”上面加入以下行: JAVA_OPTS=" CATALINABASE"”上面加入以下行:JAVAOPTS="JAVA_OPTS -server -Xms800m -Xmx800m -XX:MaxNewSize=256m”
注:$JAVA_OPTS是保留先前設定。
-------------------解決方案3:-----------------------------
前提:是執行windows的系統服務啟動tomcat的方式
但是如果不是執行startup.bat啟動tomcat而是利用windows的系統服務啟動tomcat服務,上面的設定就不生效了,
就是說set JAVA_OPTS=-Xms128m -Xmx350m 沒起作用.上面配置設定200M記憶體就OOM了…
windows服務執行的是bin\tomcat.exe.他讀取系統資料庫中的值,而不是catalina.bat的設定.
解決辦法:
修改系統資料庫HKEY_LOCAL_MACHINE\SOFTWARE\Apache Software Foundation\Tomcat Service Manager\Tomcat5\Parameters\JavaOptions
原值為
-Dcatalina.home=“C:\ApacheGroup\Tomcat 5.0”
-Djava.endorsed.dirs=“C:\ApacheGroup\Tomcat 5.0\common\endorsed”
-Xrs
加入 -Xms300m -Xmx350m
重起tomcat服務,設定生效
-------------------解決方案4:-----------------------------
前提:是執行windows的系統服務啟動tomcat的方式
在安裝tomcat時若有勾選"NT Service(NT/2000/XP only)"
則安裝完成後在安裝目錄的"bin"目錄裡會有一個tomcat.exe的檔案
先把tomcat的服務停掉
在指令列模式下(運作裡輸入CMD)
将目錄切換到tomcat的bin目錄
用下面的指令把服務移除
tomcat -uninstall “Apache Tomcat 4.1”
接下來,寫個批處理。
内容如下
set SERVICENAME=Apache Tomcat 4.1
set CATALINA_HOME=E:\Tomcat 4.1.24
set CLASSPATH=D:\j2sdk1.4.1_01\lib
set JAVACLASSPATH=%CLASSPATH%
set JAVACLASSPATH=%JAVACLASSPATH%;�TALINA_HOME%\bin\bootstrap.jar
set JAVACLASSPATH=%JAVACLASSPATH%;�TALINA_HOME%\common\lib\servlet.jar
set JAVACLASSPATH=%JAVACLASSPATH%;%JAVA_HOME%\lib\tools.jar
tomcat.exe -install “%SERVICENAME%” “%JAVA_HOME%\jre\bin\server\jvm.dll” -Djava.class.path="%JAVACLASSPATH%" -Dcatalina.home=“�TALINA_HOME%” -Xms512m -Xmx768m -start org.apache.catalina.startup.Bootstrap -params start -stop org.apache.catalina.startup.Bootstrap -params stop -out “�TALINA_HOME%\logs\stdout.log” -err “�TALINA_HOME%\logs\stderr.log”
注意,從 tomcat.exe -install開始的是最後一行!不要手工回車換行把這一行分成了好幾段。儲存後在指令行下執行這個bat檔案,注意執行的時候将“服務”視窗關閉。
第二種:永久儲存區域溢出
原因分析:
PermGen space的全稱是Permanent Generation space,是指記憶體的永久儲存區域,這塊記憶體主要是被JVM存放Class和Meta資訊的,Class在被Loader時就會被放到PermGen space中,它和存放類執行個體(Instance)的Heap區域不同,GC(Garbage Collection)不會在主程式運作期對PermGen space進行清理,是以如果你的應用中有很CLASS的話,就很可能出現PermGen space錯誤,這種錯誤常見在web伺服器對JSP進行pre compile的時候。如果你的WEB APP下都用了大量的第三方jar, 其大小超過了jvm預設的大小(4M)那麼就會産生此錯誤資訊了。但目前的hibernate和spring項目中也很容易出現這樣的問題。可能是由于這些架構會動态class,而且jvm的gc是不會清理PemGen space的,超過了jvm預設的大小(4M),導緻記憶體溢出。
建議:将相同的第三方jar檔案移置到tomcat/shared/lib目錄下,這樣可以達到減少jar 文檔重複占用記憶體的目的。
這一個一般是加大-XX:PermSize -XX:MaxPermSize 來解決問題。
-XX:PermSize 永久儲存區域初始大小
-XX:PermSize 永久儲存區域初始最大值
這一般結合第一條使用,比如 set JAVA_OPTS= -Xms1024m -Xmx1024m -XX:PermSize=128M -XX:PermSize=256M
有一點需要注意:java -Xmx***M version 指令來測試的最大堆記憶體是 -Xmx與 -XX:PermSize的和比如系統支援最大的jvm堆大小事1.5G,那 -Xmx1024m -XX:PermSize=768M 是無法運作的。
-----------------解決方案1:-------------------------
Linux伺服器:
在catalina.sh的第一行增加:
JAVA_OPTS=
-Xms64m
-Xmx256m
-XX:PermSize=128M
-XX:MaxNewSize=256m
-XX:MaxPermSize=256m
或者
在“echo “Using CATALINA_BASE: $CATALINA_BASE””上面加入以下行:
JAVA_OPTS="-server -XX:PermSize=64M -XX:MaxPermSize=128m
Windows伺服器:
在catalina.bat的第一行增加:
set JAVA_OPTS=-Xms64m -Xmx256m -XX:PermSize=128M -XX:MaxNewSize=256m -XX:MaxPermSize=256m
-----------------解決方案2:------------------------
修改TOMCAT_HOME/bin/catalina.bat(Linux下為catalina.sh),在Java代碼
“echo “Using CATALINA_BASE: $CATALINA_BASE””上面加入以下行:
set JAVA_OPTS=%JAVA_OPTS% -server -XX:PermSize=128M -XX:MaxPermSize=512m
“echo “Using CATALINA_BASE: $CATALINA_BASE””上面加入以下行:
set JAVA_OPTS=%JAVA_OPTS% -server -XX:PermSize=128M -XX:MaxPermSize=512m
catalina.sh下為:
Java代碼
JAVA_OPTS="$JAVA_OPTS -server -XX:PermSize=128M -XX:MaxPermSize=512m"
JAVA_OPTS="$JAVA_OPTS -server -XX:PermSize=128M -XX:MaxPermSize=512m"
第三種:無法建立新的線程。
這種現象比較少見,也比較奇怪,主要是和jvm與系統記憶體的比例有關。
這種怪事是因為JVM已經被系統配置設定了大量的記憶體(比如1.5G),并且它至少要占用可用記憶體的一半。有人發現,線上程個數很多的情況下,你配置設定給JVM的記憶體越多,那麼,上述錯誤發生的可能性就越大。
原因分析
(從這個blog中了解到原因:http://hi.baidu.com/hexiong/blog/item/16dc9e518fb10c2542a75b3c.html):
每一個32位的程序最多可以使用2G的可用記憶體,因為另外2G被作業系統保留。這裡假設使用1.5G給JVM,那麼還餘下500M可用記憶體。這500M記憶體中的一部分必須用于系統dll的加載,那麼真正剩下的也許隻有400M,現在關鍵的地方出現了:當你使用Java建立一個線程,在JVM的記憶體裡也會建立一個Thread對象,但是同時也會在作業系統裡建立一個真正的實體線程(參考JVM規範),作業系統會在餘下的 400兆記憶體裡建立這個實體線程,而不是在JVM的1500M的記憶體堆裡建立。在jdk1.4裡頭,預設的棧大小是256KB,但是在jdk1.5裡頭,預設的棧大小為1M每線程,是以,在餘下400M的可用記憶體裡邊我們最多也隻能建立400個可用線程。
這樣結論就出來了,要想建立更多的線程,你必須減少配置設定給JVM的最大記憶體。還有一種做法是讓JVM宿主在你的JNI代碼裡邊。
給出一個有關能夠建立線程的最大個數的估算公式:
(MaxProcessMemory - JVMMemory - ReservedOsMemory) / (ThreadStackSize) = Number of threads
對于jdk1.5而言,假設作業系統保留120M記憶體:
1.5GB JVM:(2GB-1.5Gb-120MB)/(1MB) = ~380 threads
1.0GB JVM:(2GB-1.0Gb-120MB)/(1MB) = ~880 threads
在2000/XP/2003的boot.ini裡頭有一個啟動選項,好像是:/PAE /3G ,可以讓使用者程序最大記憶體擴充至3G,這時作業系統隻能占用最多1G的虛存。那樣應該可以讓JVM建立更多的線程。
是以這種情況需要結合作業系統進行相關調整。
是以:我們需要結合不同情況對tomcat記憶體配置設定進行不同的診斷才能從根本上解決問題。
檢測目前JVM記憶體使用情況:
System.out.println("JVM MAX MEMORY: " + Runtime.getRuntime().maxMemory()/1024/1024+“M”);
System.out.println(“JVM IS USING MEMORY:” + Runtime.getRuntime().totalMemory()/1024/1024+“M”);
System.out.println(“JVM IS FREE MEMORY:” + Runtime.getRuntime().freeMemory()/1024/1024+“M”);
這三個方法都是說JVM的記憶體使用情況而不是作業系統的記憶體;
maxMemory()這個方法傳回的是java虛拟機(這個程序)能構從作業系統那裡挖到的最大的記憶體,以位元組為機關,如果在運作java程式的時候,沒有添加-Xmx參數,那麼就是64兆,也就是說maxMemory()傳回的大約是6410241024位元組,這是java虛拟機預設情況下能從作業系統那裡挖到的最大的記憶體。如果添加了-Xmx參數,将以這個參數後面的值為準,例如java -cp ClassPath -Xmx512m ClassName,那麼最大記憶體就是51210240124位元組。
totalMemory()這個方法傳回的是java虛拟機現在已經從作業系統那裡挖過來的記憶體大小,也就是java虛拟機這個程序當時所占用的所有記憶體。如果在運作java的時候沒有添加-Xms參數,那麼,在java程式運作的過程的,記憶體總是慢慢的從作業系統那裡挖的,基本上是用多少挖多少,直挖到maxMemory()為止,是以totalMemory()是慢慢增大的。如果用了-Xms參數,程式在啟動的時候就會無條件的從作業系統中挖-Xms後面定義的記憶體數,然後在這些記憶體用的差不多的時候,再去挖。
freeMemory()是什麼呢,剛才講到如果在運作java的時候沒有添加-Xms參數,那麼,在java程式運作的過程的,記憶體總是慢慢的從作業系統那裡挖的,基本上是用多少挖多少,但是java虛拟機100%的情況下是會稍微多挖一點的,這些挖過來而又沒有用上的記憶體,實際上就是freeMemory(),是以freeMemory()的值一般情況下都是很小的,但是如果你在運作java程式的時候使用了-Xms,這個時候因為程式在啟動的時候就會無條件的從作業系統中挖-Xms後面定義的記憶體數,這個時候,挖過來的記憶體可能大部分沒用上,是以這個時候freeMemory()可能會有些
--------------------解決方案--------------------------
JVM堆大小的調整
Sun HotSpot 1.4.1使用分代收集器,它把堆分為三個主要的域:新域、舊域以及永久域。Jvm生成的所有新對象放在新域中。一旦對象經曆了一定數量的垃圾收集循環後,便獲得使用期并進入舊域。在永久域中jvm則存儲class和method對象。就配置而言,永久域是一個獨立域并且不認為是堆的一部分。
下面介紹如何控制這些域的大小。可使用-Xms和-Xmx 控制整個堆的原始大小或最大值。
下面的指令是把初始大小設定為128M:
java –Xms128m
–Xmx256m為控制新域的大小,可使用-XX:NewRatio設定新域在堆中所占的比例。
下面的指令把整個堆設定成128m,新域比率設定成3,即新域與舊域比例為1:3,新域為堆的1/4或32M:
java –Xms128m –Xmx128m
–XX:NewRatio =3可使用-XX:NewSize和-XX:MaxNewsize設定新域的初始值和最大值。
下面的指令把新域的初始值和最大值設定成64m:
java –Xms256m –Xmx256m –Xmn64m
永久域預設大小為4m。運作程式時,jvm會調整永久域的大小以滿足需要。每次調整時,jvm會對堆進行一次完全的垃圾收集。
使用-XX:MaxPerSize标志來增加永久域搭大小。在WebLogic Server應用程式加載較多類時,經常需要增加永久域的最大值。當jvm加載類時,永久域中的對象急劇增加,進而使jvm不斷調整永久域大小。為了避免調整,可使用-XX:PerSize标志設定初始值。
下面把永久域初始值設定成32m,最大值設定成64m。
java -Xms512m -Xmx512m -Xmn128m -XX:PermSize=32m -XX:MaxPermSize=64m
預設狀态下,HotSpot在新域中使用複制收集器。該域一般分為三個部分。第一部分為Eden,用于生成新的對象。另兩部分稱為救助空間,當Eden充滿時,收集器停止應用程式,把所有可到達對象複制到目前的from救助空間,一旦目前的from救助空間充滿,收集器則把可到達對象複制到目前的to救助空間。From和to救助空間互換角色。維持活動的對象将在救助空間不斷複制,直到它們獲得使用期并轉入舊域。使用-XX:SurvivorRatio可控制新域子空間的大小。
同NewRation一樣,SurvivorRation規定某救助域與Eden空間的比值。比如,以下指令把新域設定成64m,Eden占32m,每個救助域各占16m:
java -Xms256m -Xmx256m -Xmn64m -XX:SurvivorRation =2
如前所述,預設狀态下HotSpot對新域使用複制收集器,對舊域使用标記-清除-壓縮收集器。在新域中使用複制收集器有很多意義,因為應用程式生成的大部分對象是短壽命的。理想狀态下,所有過渡對象在移出Eden空間時将被收集。如果能夠這樣的話,并且移出Eden空間的對象是長壽命的,那麼理論上可以立即把它們移進舊域,避免在救助空間反複複制。但是,應用程式不能适合這種理想狀态,因為它們有一小部分中長壽命的對象。最好是保持這些中長壽命的對象并放在新域中,因為複制小部分的對象總比壓縮舊域廉價。為控制新域中對象的複制,可用-XX:TargetSurvivorRatio控制救助空間的比例(該值是設定救助空間的使用比例。如救助空間位1M,該值50表示可用500K)。該值是一個百分比,預設值是50。當較大的堆棧使用較低的sruvivorratio時,應增加該值到80至90,以更好利用救助空間。用-XX:maxtenuring threshold可控制上限。
為放置所有的複制全部發生以及希望對象從eden擴充到舊域,可以把MaxTenuring Threshold設定成0。設定完成後,實際上就不再使用救助空間了,是以應把SurvivorRatio設成最大值以最大化Eden空間,設定如下:
java … -XX:MaxTenuringThreshold=0 –XX:SurvivorRatio=50000 …
垃圾回收描述:
垃圾回收分多級,0級為全部(Full)的垃圾回收,會回收OLD段中的垃圾;1級或以上為部分垃圾回收,隻會回收Young中的垃圾,記憶體溢出通常發生于OLD段或Perm段垃圾回收後,仍然無記憶體空間容納新的Java對象的情況。
當一個URL被通路時,記憶體申請過程如下:
A. JVM會試圖為相關Java對象在Eden中初始化一塊記憶體區域
B. 當Eden空間足夠時,記憶體申請結束。否則到下一步
C. JVM試圖釋放在Eden中所有不活躍的對象(這屬于1或更進階的垃圾回收);釋放後若Eden空間仍然不足以放入新對象,則試圖将部分Eden中活躍對象放入Survivor區/OLD區
D. Survivor區被用來作為Eden及OLD的中間交換區域,當OLD區空間足夠時,Survivor區的對象會被移到Old區,否則會被保留在Survivor區
E. 當OLD區空間不夠時,JVM會在OLD區進行完全的垃圾收集(0級)
F. 完全垃圾收集後,若Survivor及OLD區仍然無法存放從Eden複制過來的部分對象,導緻JVM無法在Eden區為新對象建立記憶體區域,則出現”out of memory錯誤”
Java堆相關參數:
ms/mx:定義YOUNG+OLD段的總尺寸,ms為JVM啟動時YOUNG+OLD的記憶體大小;mx為最大可占用的YOUNG+OLD記憶體大小。在使用者生産環境上一般将這兩個值設為相同,以減少運作期間系統在記憶體申請上所花的開銷。
NewSize/MaxNewSize:定義YOUNG段的尺寸,NewSize為JVM啟動時YOUNG的記憶體大小;MaxNewSize為最大可占用的YOUNG記憶體大小。在使用者生産環境上一般将這兩個值設為相同,以減少運作期間系統在記憶體申請上所花的開銷。
PermSize/MaxPermSize:定義Perm段的尺寸,PermSize為JVM啟動時Perm的記憶體大小;MaxPermSize為最大可占用的Perm記憶體大小。在使用者生産環境上一般将這兩個值設為相同,以減少運作期間系統在記憶體申請上所花的開銷。
SurvivorRatio:設定Survivor空間和Eden空間的比例
例:
MEM_ARGS="-Xms512m -Xmx512m -XX:NewSize=256m -XX:MaxNewSize=256m -XX:PermSize=128m -XX:MaxPermSize=128m -XX:SurvivorRatio=6"
在上面的例子中:
YOUNG+OLD: 512M
YOUNG: 256M
Perm: 128M
Eden: YOUNG*6/(6+1+1)=192M
Survivor: YOUNG/(6+1+1)=32M
Java堆的總尺寸=YOUNG+OLD+Perm=640M