天天看點

OkHttp 3.7源碼分析(三)——任務隊列

okhttp3.7源碼分析文章清單如下:

<a href="https://yq.aliyun.com/articles/78105?spm=5176.8091938.0.0.hleond">okhttp源碼分析——整體架構</a>

<a href="https://yq.aliyun.com/articles/78104?spm=5176.8091938.0.0.hleond">okhttp源碼分析——攔截器</a>

<a href="https://yq.aliyun.com/articles/78103?spm=5176.8091938.0.0.hleond">okhttp源碼分析——任務隊列</a>

<a href="https://yq.aliyun.com/articles/78102?spm=5176.8091938.0.0.hleond">okhttp源碼分析——緩存政策</a>

<a href="https://yq.aliyun.com/articles/78101?spm=5176.8091938.0.0.hleond">okhttp源碼分析——多路複用</a>

前面的部落格已經提到過,okhttp的一個高效之處在于在内部維護了一個線程池,友善高效地執行異步請求。本篇部落格将詳細介紹okhttp的任務隊列機制。

okhttp的任務隊列在内部維護了一個線程池用于執行具體的網絡請求。而線程池最大的好處在于通過線程複用減少非核心任務的損耗。

多線程技術主要解決處理器單元内多個線程執行的問題,它可以顯著減少處理器單元的閑置時間,增加處理器單元的吞吐能力。但如果對多線程應用不當,會增加對單個任務的處理時間。可以舉一個簡單的例子: 假設在一台伺服器完成一項任務的時間為t

顯然t = t1+t2+t3。注意這是一個極度簡化的假設。 可以看出t1,t3是多線程本身的帶來的開銷(在java中,通過映射pthead,并進一步通過&gt;systemcall實作native線程),我們渴望減少t1,t3所用的時間,進而減少t的時間。但一些線&gt;程的使用者并沒有注意到這一點,是以在程式中頻繁的建立或銷毀線程,這導緻t1和t3在t中占有&gt;相當比例。顯然這是突出了線程的弱點(t1,t3),而不是優點(并發性)。

線程池技術正是關注如何縮短或調整t1,t3時間的技術,進而提高伺服器程式性能的。

通過對線程進行緩存,減少了建立銷毀的時間損失

通過控制線程數量閥值,減少了當線程過少時帶來的cpu閑置(比如說長時間卡在i/o上了)與線程過多時對jvm的記憶體與線程切換時系統調用的壓力

okhttp的任務隊列主要由兩部分組成:

任務分發器dispatcher:負責為任務找到合适的執行線程

網絡請求任務線程池

參數說明如下:

readyasynccalls:待執行異步任務隊列

runningasynccalls:運作中異步任務隊列

runningsynccalls:運作中同步任務隊列

executorservice:任務隊列線程池:

int corepoolsize: 最小并發線程數,這裡并發同時包括空閑與活動的線程,如果是0的話,空閑一段時間後所有線程将全部被銷毀 int maximumpoolsize: 最大線程數,當任務進來時可以擴充的線程最大值,當大于了這個值就會根據丢棄處理機制來處理 long keepalivetime: 當線程數大于<code>corepoolsize</code>時,多餘的空閑線程的最大存活時間,類似于http中的keep-alive timeunit unit: 時間機關,一般用秒 blockingqueue workqueue: 工作隊列,先進先出,可以看出并不像picasso那樣設定優先隊列 threadfactory threadfactory: 單個線程的工廠,可以打log,設定<code>daemon</code>(即當jvm退出時,線程自動結束)等 可以看出,在okhttp中,建構了一個閥值為[0, integer.max_value]的線程池,它不保留任何最小線程數,随時建立更多的線程數,當線程空閑時隻能活60秒,它使用了一個不存儲元素的阻塞工作隊列,一個叫做"okhttp dispatcher"的線程工廠。 也就是說,在實際運作中,當收到10個并發請求時,線程池會建立十個線程,當工作完成後,線程池會在60s後相繼關閉所有線程。

dispatcher分發器類似于ngnix中的反向代理,通過dispatcher将任務分發到合适的空閑線程,實作<code>非阻塞,高可用,高并發連接配接</code>

OkHttp 3.7源碼分析(三)——任務隊列

當我們使用okhttp進行同步請求時,一般構造如下:

接下來看看<code>realcall.execute</code>

同步調用的執行邏輯是:

将對應任務加入分發器

執行任務

執行完成後通知dispatcher對應任務已完成,對應任務出隊

異步請求一般構造如下:

當httpclient的請求入隊時,根據代碼,我們可以發現實際上是dispatcher進行了入隊操作。

如果滿足條件:

目前請求數小于最大請求數(64)

對單一host的請求小于門檻值(5)

将該任務插入正在執行任務隊列,并執行對應任務。如果不滿足則将其放入待執行隊列。

接下來看看<code>asynccall.execute</code>

當任務執行完成後,無論成功與否都會調用dispatcher.finished方法,通知分發器相關任務已結束:

空閑出多餘線程,調用promotecalls調用待執行的任務

如果目前整個線程池都空閑下來,執行空閑通知回調線程(idlecallback)

接下來看看promotecalls:

promotecalls的邏輯也很簡單:掃描待執行任務隊列,将任務放入正在執行任務隊列,并執行該任務。

以上就是整個任務隊列的實作細節,總結起來有以下幾個特點:

okhttp采用dispatcher技術,類似于nginx,與線程池配合實作了高并發,低阻塞的運作

okhttp采用deque作為緩存,按照入隊的順序先進先出

okhttp最出彩的地方就是在try/finally中調用了<code>finished</code>函數,可以主動控制等待隊列的移動,而不是采用鎖或者wait/notify,極大減少了編碼複雜性