Tomcat設定最佳線程數總結

性能壓測的情況下，起初随着使用者數的增加，QPS會上升，當到了一定的閥值之後，使用者數量增加QPS并不會增加，或者增加不明顯，同時請求的響應時間卻大幅增加。這個閥值我們認為是最佳線程數。

為什麼要找最佳線程數:

1.過多的線程隻會造成，更多的記憶體開銷，更多的CPU開銷，但是對提升QPS确毫無幫助

2.找到最佳線程數後通過簡單的設定，可以讓web系統更加穩定，得到最高，最穩定的QPS輸出

最佳線程數的擷取：

1、通過使用者慢慢遞增來進行性能壓測，觀察QPS，響應時間

2、根據公式計算:伺服器端最佳線程數量=((線程等待時間+線程cpu時間)/線程cpu時間) * cpu數量

3、單使用者壓測，檢視CPU的消耗，然後直接乘以百分比，再進行壓測，一般這個值的附近應該就是最佳線程數量。

影響最佳線程數的主要因素：

1、IO

2、CPU

根據公式：伺服器端最佳線程數量=((線程等待時間+線程cpu時間)/線程cpu時間) * cpu數量

一般來說是IO和CPU。IO開銷較多的應用其CPU線程等待時間會比較長，是以線程數量可以開的多一些，相反則線程數量要少一些，其實有兩種極端，純IO的應用，比如proxy，則線程數量可以開到非常大（實在太大了則需要考慮線程切換的開銷），這種應用基本上後端（比如這個proxy是代理搜尋的）的QPS能有多少，proxy就有多少。

另一種是耗CPU的計算，這種情況一般來講隻能開到CPU個數的線程數量。但是并不是說這種應用的QPS就不高，往往這種應用的QPS可以很高。

QPS和線程數的關系

1、在最佳線程數量之前，QPS和線程是互相遞增的關系，線程數量到了最佳線程之後，QPS持平，不在上升，甚至略有下降，同時相應時間持續上升。

2、同一個系統而言，支援的線程數越多（最佳線程數越多而不是配置的線程數越多），QPS越高

QPS和響應時間的關系

1、對于一般的web系統，響應時間一般有CPU執行時間+IO等待時間組成

2、CPU的執行時間減少，對QPS有實質的提升，IO時間的減少，對QPS提升不明顯。如果要想明顯提升QPS，優化系統的時候要着重優化CPU消耗大戶。

最佳線程數和jvm堆記憶體得關系：

以上都是依據性能瓶頸在CPU的情況，對于java應用還有一個因素是FULL GC，我們要保證在最佳線程數量下，不會發生頻繁FULL GC

根據公式：：(小GC時間間隔/rt)*(并發線程數量 * thm) <=young 計算得到的并發線程數量如果<最佳線程數量 則可能導緻FULL GC較頻繁，實際情況看來這種情況在web系統上非常少。不過可以模拟出來。

是以我們在設定jboss線程的時候，可以利用記憶體公式計算出來的線程數量來設定，通過壓測和計算得到最佳線程數，然後設定線程數。

設定線程數量：

壓測最佳線程數<真實設定的線程數量<記憶體極限線程數

比如，通過壓測得到某系統的最佳線程數量是10，然後通過記憶體計算的線程數量是20，則，設定jboss的線程數量為15是可行的，如果直接設定了10，由于系統本身會受到一些依賴系統的變化而産生一些變化，比如系統依賴一些IO的響應時間會突然延長，由于線程數量還是10，其實這個時候最佳線程數量已經變成了13了，由于我們設定死了10，其結果就是導緻qps下降，但是如果超過20，則又會引起FULL gc非常頻繁，反過來影響QPS的下降。

jboss的線程數設定：

對于jboss而言，設定線程數量要看使用了那種線程連接配接，如http、ajp等

http和ajp的設定是完全一樣的，非常簡單：

以ajp為例，找到server.xml或者tomcat-server.xml:

預設線程數量是200個

 <Connector port="8009" address="${jboss.bind.address}" connectionTimeout="15000" protocol="AJP/1.3" maxThreads="200" minSpareThreads="40" maxSpareThreads="75" maxPostSize="512000" acceptCount="300" bufferSize="16384" emptySessionPath="false" enableLookups="false" redirectPort="8443" useBodyEncodingForURI="true"/>

這裡将預設的線程數量改成了20，當然相應的其他最小空閑線程數和最大空閑線程數也做一下調整：

<Connector port="8009" address="${jboss.bind.address}" connectionTimeout="15000" protocol="AJP/1.3" maxThreads="20" minSpareThreads="20" maxSpareThreads="20" maxPostSize="512000" acceptCount="300" bufferSize="16384" emptySessionPath="false" enableLookups="false" redirectPort="8443" useBodyEncodingForURI="true"/>

原文位址：https://www.cnblogs.com/stone-xiao/p/6007185.html