天天看點
傳回

珍貴的線程資源，JDK VS Tomcat

作者：Java架構日記

聯考結束了，依然祝聯考學子們取得好成績，然後報考計算機專業，然後快點畢業，來接收哥哥姐姐們留下的代碼文明。。。。

接到某城舉報，某迪洩露聯考題目。

珍貴的線程資源，JDK VS Tomcat

最近生産環境各種問題，幾百台裝置停擺，真的是亞曆山大。接手了别人的代碼，隻能硬着頭皮改了，一不留神就恰班到10點多了。

今天還是說一下線程池的兩個思考。

池子

我們常用的線程池，

1. JDK的ThreadPoolExecutor.

2. CompletableFutures 預設使用了ForkJoinPool.commonPool()。

CompletableFuture.supplyAsync(()->{ return "hello word";});

3. 還有Tomcat中的線程池

org.apache.tomcat.util.threads.TaskQueue

org.apache.tomcat.util.threads.ThreadPoolExecutor

線程池維護多個線程，等待監督管理者配置設定可并發執行的任務。這種做法，一方面避免了處理任務時建立銷毀線程開銷的代價，另一方面避免了線程數量膨脹導緻的過分排程問題，保證了對核心的充分利用。

JDK 線程池 

public ThreadPoolExecutor(
    int corePoolSize, //核心線程數
    int maximumPoolSize,//最大線程數
    long keepAliveTime, //大于核心線程數量的線程存活時間，如果沒有新任務就會關閉
    TimeUnit unit, // 時間機關
    BlockingQueue<Runnable> workQueue, //線程等待隊列
    ThreadFactory threadFactory,//建立線程的工廠
    RejectedExecutionHandler handler//拒絕政策
) {

JDK線程池執行任務：

  1. 送出任務給線程池後，線程池會檢查線程池中正在運作的線程數量，如果線程數量小于核心線程，則建立一個新的線程來處理任務。
  2. 如果線程池中線程數量達到和corePoolSize的大小，則将線程放入等待隊列BlockingQueue中。
  3. 如果送出任務時連等待隊列都已經滿了的話，線程池會繼續建立新的線程來處理任務，直到線程池數量達到maximumPoolSize。
  4. 如果線程數量達到了最大容量，則會執行拒絕政策。

這裡需要注意直接使用LinkedBlockingQueue阻塞隊列作為線程池會存在一個問題，當workcount > corePool時優先進入隊列排隊， 當請求并發過多時會導緻請求緩慢，隊列太長可能會出現記憶體溢出（先排隊再漲線程池）

Tomcat線程池

下面時Tomcat線程池的構造方法

public ThreadPoolExecutor(int corePoolSize, int maximumPoolSize, long keepAliveTime, TimeUnit unit, BlockingQueue<Runnable> workQueue, ThreadFactory threadFactory, RejectedExecutionHandler handler) {
    this.ctl = new AtomicInteger(ctlOf(-536870912, 0));
    this.mainLock = new ReentrantLock();
    this.workers = new HashSet();
    this.termination = this.mainLock.newCondition();
    this.submittedCount = new AtomicInteger(0);
    this.lastContextStoppedTime = new AtomicLong(0L);
    this.lastTimeThreadKilledItself = new AtomicLong(0L);
    this.threadRenewalDelay = 1000L;
    if (corePoolSize >= 0 && maximumPoolSize > 0 && maximumPoolSize >= corePoolSize && keepAliveTime >= 0L) {
        if (workQueue != null && threadFactory != null && handler != null) {
            this.corePoolSize = corePoolSize;
            this.maximumPoolSize = maximumPoolSize;
            this.workQueue = workQueue;
            this.keepAliveTime = unit.toNanos(keepAliveTime);
            this.threadFactory = threadFactory;
            this.handler = handler;
            this.prestartAllCoreThreads();
        } else {
            throw new NullPointerException();
        }
    } else {
        throw new IllegalArgumentException();
    }
}

Tomcat主要針對web接口請求，不能因為LinkedBlockingQueue的排隊導緻接口出現大量延遲和緩慢， 進而使用了tomcat的TaskQueue，TaskQueue繼承了JDK的LinkedBlockingQueue 并擴充了JDK線程池的功能。

主要有一下幾點優化：

  • Tomcat的ThreadPoolExecutor使用的TaskQueue，是無界的LinkedBlockingQueue，但是通過taskQueue的offer方法覆寫了LinkedBlockingQueue的offer方法，修改了線程池增長規則，使得線程池能在任務較多的情況下增長線程池數量。（先漲線程池再排隊。）
  • Tomcat的ThreadPoolExecutor改寫了execute方法，當任務被reject時，捕獲異常，會強制入隊 
public void execute(Runnable command, long timeout, TimeUnit unit) {
    this.submittedCount.incrementAndGet();

    try {
        this.executeInternal(command);
    } catch (RejectedExecutionException var9) {
        if (!(this.getQueue() instanceof TaskQueue)) {
            this.submittedCount.decrementAndGet();
            throw var9;
        }

        TaskQueue queue = (TaskQueue)this.getQueue();

        try {
            if (!queue.force(command, timeout, unit)) {
                this.submittedCount.decrementAndGet();
                throw new RejectedExecutionException(sm.getString("threadPoolExecutor.queueFull"));
            }
        } catch (InterruptedException var8) {
            this.submittedCount.decrementAndGet();
            throw new RejectedExecutionException(var8);
        }
    }

}

那個線程池适合

我們看看AI如何回複

珍貴的線程資源，JDK VS Tomcat

了不起認為大多數情況下使用JDK的線程池就夠用了，如果覺得線程資料處理不過來，需要多一點線程直接增加核心線程數量設定就可以了。針對資源比較緊張，對線程使用代價比較高時可以考慮。

tomcat對線程池做過優化，也必然是有一定的考量，對于線程資源的使用頻率比較高的情況下可以使用。

了不起之前也有對應的不同的例子來說明不同點。這裡再放出來讓大家體會一下！

JDK線程池，線程資源較珍貴

  • 有一家工廠建立，開始的時候隻有10個勞工，然後工廠的活越來越多，招聘新的勞工肯定不是最好的政策，是以多出來的活暫時隻能等着，進行排隊。（這個例子中工廠的活多了，立馬去招人肯定是不可能，隻能先排單）
  • 後面工廠的業務越來越多，任務擠壓過多，原來的勞工幹活已經不能滿足業務需求了。為了最大化效益，招聘新的勞工勢在必行，于是就招聘了新的勞工，所有的勞工一起來幹活，加快效率。
  • 當工廠的勞工數量達到飽和之後，仍然不停的新增業務，此時工廠已經飽和，沒有辦法再繼續接單。那麼隻能采取别的方案（拒絕政策），找别的工廠幹，或者建立工廠。
  • 當後面業務量比較小的時候，新招的勞工就會慢慢的裁剪（線程一段時間不使用就會關掉！）。

Tomcat線程池，線程資源使用比較頻繁

  • 某學校有一個食堂，大廳裡面日常至少擺100把椅子（min-spare）供學生們吃飯。
  • 然而當同時吃飯的同學大于100人的時候，食堂會增加一些椅子（建立線程），并且這些椅子也不會立馬收回去，一段時間沒有人使用才會收回。
  • 但是食堂裡面最多可以擺500把椅子（maxThreads）。然後超過500人吃飯同時吃飯的話，其他人就隻能在大廳裡面排隊等别人吃完。食堂大廳裡面可以容納1000人進行排隊等候（maxConnections）。
  • 當食堂大廳1000人都排滿了，那麼就隻能到食堂外面排隊了，外面排隊最多一直能排200人（acceptCount）。這個時候如果再有人過來要吃飯，而且還排不上隊，就會等到不耐煩（time out），也會有人來告訴後來的同學，别來了人都滿了，上其他地方吃飯去吧。（reject）

你覺得那個合适，來評論區告訴我

線程資源 Tomca
上一篇: 又搞了一堆垃圾回來
下一篇: #話題#今日優質房源

繼續閱讀