天天看點

linux:阻塞和非阻塞,同步和異步。例子詳細介紹總結

例子

故事:老王燒開水。

出場人物:老張,水壺兩把(普通水壺,簡稱水壺;會響的水壺,簡稱響水壺)。

老王想了想,有好幾種等待方式

1.老王用水壺煮水,并且站在那裡,不管水開沒開,每隔一定時間看看水開了沒。-同步阻塞

老王想了想,這種方法不夠聰明。

2.老王還是用水壺煮水,不再傻傻的站在那裡看水開,跑去寝室上網,但是還是會每隔一段時間過來看看水開了沒有,水沒有開就走人。-同步非阻塞

老王想了想,現在的方法聰明了些,但是還是不夠好。

3.老王這次使用高大上的響水壺來煮水,站在那裡,但是不會再每隔一段時間去看水開,而是等水開了,水壺會自動的通知他。-異步阻塞

老王想了想,不會呀,既然水壺可以通知我,那我為什麼還要傻傻的站在那裡等呢,嗯,得換個方法。

4.老王還是使用響水壺煮水,跑到客廳上網去,等着響水壺自己把水煮熟了以後通知他。-異步非阻塞

老王豁然,這下感覺輕松了很多。

  • 同步和異步

同步就是燒開水,需要自己去輪詢(每隔一段時間去看看水開了沒),異步就是水開了,然後水壺會通知你水已經開了,你可以回來處理這些開水了。

同步和異步是相對于操作結果來說,會不會等待結果傳回。

  • 阻塞和非阻塞

阻塞就是說在煮水的過程中,你不可以去幹其他的事情,非阻塞就是在同樣的情況下,可以同時去幹其他的事情。阻塞和非阻塞是相對于線程是否被阻塞。

其實,這兩者存在本質的差別,它們的修飾對象是不同的。阻塞和非阻塞是指程序通路的資料如果尚未就緒,程序是否需要等待,簡單說這相當于函數内部的實作差別,也就是未就緒時是直接傳回還是等待就緒。

而同步和異步是指通路資料的機制,同步一般指主動請求并等待I/O操作完畢的方式,當資料就緒後在讀寫的時候必須阻塞,異步則指主動請求資料後便可以繼續處理其它任務,随後等待I/O,操作完畢的通知,這可以使程序在資料讀寫時也不阻塞。

詳細介紹

網絡IO的模型大緻包括下面幾種

  • 同步模型(synchronous IO)
    • 阻塞IO(bloking IO)
    • 非阻塞IO(non-blocking IO)
    • 多路複用IO(multiplexing IO)
    • 信号驅動式IO(signal-driven IO)
  • 異步IO(asynchronous IO)
    • 異步IO

網絡IO的本質是socket的讀取,socket在linux系統被抽象為流,IO可以了解為對流的操作。對于一次IO通路,資料會先被拷貝到作業系統核心的緩沖區中,然後才會從作業系統核心的緩沖區拷貝到應用程式的位址空間,是以一般會經曆兩個階段:

  1. 等待所有資料都準備好或者一直在等待資料,有資料的時候将資料拷貝到系統核心;
  2. 将核心緩存中資料拷貝到使用者程序中;

對于socket流而言:

  1. 等待網絡上的資料分組到達,然後被複制到核心的某個緩沖區;
  2. 把資料從核心緩沖區複制到應用程序緩沖區中;

阻塞IO

介紹

這也是最常用的模型,預設情況下所有的套接字都是 

阻塞

 的;

linux:阻塞和非阻塞,同步和異步。例子詳細介紹總結

我們把recvfrom函數視為系統調用,因為我們正區分程序和核心,系統調用一般都會從在應用程序空間中運作切換到核心空間中運作,一段時間後又再切換回來;

我們可以從圖中看到,應用程序從 

進行系統調用

 到 

複制資料報到應用程序的緩沖區完成

 的整段時間内是被阻塞的;在這個過程中,要麼正确到達,要麼系統調用被信号打斷;直到資料報被複制到使用者程序完成後,使用者程序才解除阻塞的狀态,當然,這是使用者程序自己進行的阻塞;

優點和缺點

  • 優點:能夠及時傳回資料,無延遲;友善調試;
  • 缺點:需要付出等待的代價;

非阻塞IO

介紹

非阻塞,當所請求的I/O操作非得把目前程序設定成睡眠才能完成時,不要把目前程序設定成睡眠,而是傳回一個錯誤資訊(資料報沒有準備好的情況下),此時目前程序可以做其它的事情,不用阻塞;

linux:阻塞和非阻塞,同步和異步。例子詳細介紹總結

從圖中可以得知,前三次系統調用時都沒有資料可以傳回,核心均傳回一個 

EWOULDBLOCK

,并且不會阻塞目前程序,直到第四次詢問核心緩沖區是否有資料的時候,此時核心緩沖區中已經有一個準備好的資料,是以将核心資料複制到使用者空間,此時系統調用則傳回成功;

當一個應用程序像這樣對一個非阻塞socket循環調用 

recv/recvfrom

 時,則稱為輪詢;應用程序持續輪詢核心,以檢視某個操作是否就緒,這麼做往往消耗大量的CPU時間。

優點和缺點

  • 優點:相較于阻塞模型,非阻塞不用再等待任務,而是把時間花費到其它任務上,也就是這個目前線程同時處理多個任務;
  • 缺點:導緻任務完成的響應延遲增大了,因為每隔一段時間才去執行詢問的動作,但是任務可能在兩個詢問動作的時間間隔内完成,這會導緻整體資料吞吐量的降低。

IO多路複用

介紹

有了I/O複用,我們就可以調用 

select或poll

,讓其阻塞在兩個系統調用(1.詢問資料是否準備好并且直到資料準備好才傳回;2.核心是否把資料全部複制完成到使用者程序)中的某一個之上

linux:阻塞和非阻塞,同步和異步。例子詳細介紹總結

圖中阻塞于 

select

 調用,等待資料報套接字變為可讀。當select傳回套接字可讀這一條件的時候,則調用 

recvfrom

 把所讀資料報複制到應用程序緩沖區;

之前的同步非阻塞方式需要使用者程序不停的輪詢,但是IO多路複用不需要不停的輪詢,而是派别人去幫忙循環查詢多個任務的完成狀态,UNIX/Linux 下的 

select、poll、epoll

 就是幹這個的;select調用是核心級别的,select輪詢相對非阻塞的輪詢的差別在于---前者可以等待多個socket,能實作同時對多個IO端口進行監聽,當其中任何一個socket的資料準好了,就能傳回進行可讀,然後程序再進行recvform系統調用,将資料由核心拷貝到使用者程序,當然這個過程是阻塞的。select或poll調用之後,會阻塞程序,與blocking IO阻塞不同在于,此時的select不是等到socket資料全部到達再處理, 而是有了一部分資料(網絡上的資料是分組到達的)就會調用使用者程序來處理。如何知道有一部分資料到達了呢?監視的事情交給了核心,核心負責資料到達的處理。

我認為上面那句話中存在兩個重要點:1.對多個socket進行監聽,隻要任何一個socket資料準備好就傳回可讀;2.不等一個socket資料全部到達再處理,而是一部分socket的資料到達了就通知使用者程序;

其實 

select、poll、epoll

 的原理就是不斷的周遊所負責的所有的socket完成狀态,當某個socket有資料到達了,就傳回可讀并通知使用者程序來處理;

優點和缺點

  • 優點:能夠同時處理多個連接配接,系統開銷小,系統不需要建立新的額外程序或者線程,也不需要維護這些程序和線程的運作,降低了系統的維護工作量,節省了系統資源。
  • 缺點:如果處理的連結數目不高的話,使用select/epoll的web server不一定比使用多線程 + 阻塞IO的web server性能更好,可能延遲還更大。(因為阻塞可以保證沒有延遲,但是多路複用是處理先存在的資料,是以資料的順序則不管,導緻處理一個完整的任務的時間上有延遲)

同步非阻塞和多線程+同步阻塞

高并發的程式一般使用同步非阻塞方式而非多線程 + 同步阻塞方式。要了解這一點,首先要扯到并發和并行的差別。比如去某部門辦事需要依次去幾個視窗,辦事大廳裡的人數就是并發數,而視窗個數就是并行度。也就是說并發數是指同時進行的任務數(如同時服務的 HTTP 請求),而并行數是可以同時工作的實體資源數量(如 CPU 核數)。通過合理排程任務的不同階段,并發數可以遠遠大于并行度,這就是區區幾個 CPU 可以支援上萬個使用者并發請求的奧秘。在這種高并發的情況下,為每個任務(使用者請求)建立一個程序或線程的開銷非常大。而同步非阻塞方式可以把多個 IO 請求丢到背景去,這就可以在一個程序裡服務大量的并發 IO 請求。

信号驅動式I/O模型

首先開啟套接字的信号驅動式IO功能,并且通過 

sigaction

 系統調用安裝一個信号處理函數,該函數調用将立即傳回,目前程序沒有被阻塞,繼續工作;當資料報準備好的時候,核心則為該程序産生 

SIGIO

 的信号,随後既可以在信号處理函數中調用 

recvfrom

 讀取資料報,并且通知主循環資料已經準備好等待處理,也可以通知主循環讓它讀取資料報;(其實就是一個待讀取的通知和待處理的通知);

linux:阻塞和非阻塞,同步和異步。例子詳細介紹總結

異步式I/O模型

我們調用 

aio_read

 函數,給核心傳遞描述符、緩沖區指針、緩沖區大小和檔案偏移,并且告訴核心當整個操作完成時如何通知我們。該函數調用後立即傳回,不被阻塞;

linux:阻塞和非阻塞,同步和異步。例子詳細介紹總結

總結

阻塞和非阻塞差別

調用阻塞IO會一直阻塞住對應的程序直到操作完成,而非阻塞IO在kernel還準備資料的情況下會立刻傳回。

同步IO和異步IO差別

在說明同步IO和異步IO的差別之前,需要先給出兩者的定義。POSIX的定義是這樣子的:

同步I/O操作導緻請求過程被阻塞,直到該I/O操作完成為止。

異步I/O操作不會導緻請求程序被阻塞;

兩者的差別就在于

同步

IO做”IO operation”的時候會将process阻塞

。按照這個定義,之前所述的阻塞IO,非阻塞IO,IO 多路複用都屬于同步IO。

有人會說,非阻塞IO并沒有被block啊。這裡有個非常“狡猾”的地方,

定義中所指的”IO operation”是指真實的IO操作

,就是例子中的recvfrom這個system call。非阻塞IO在執行recvfrom這個system call的時候,如果kernel的資料沒有準備好,這時候不會block程序。但是,

當kernel中資料準備好的時候,recvfrom會将資料從kernel拷貝到使用者記憶體中,這個時候程序是被阻塞了

,在這段時間内,程序是被阻塞的。

而異步IO則不一樣,

當程序發起IO 操作之後,就直接傳回再也不理睬了,直到kernel發送一個信号,告訴程序說IO完成

。在這整個過程中,程序完全沒有被阻塞。

各個IO Model的比較如圖所示:

linux:阻塞和非阻塞,同步和異步。例子詳細介紹總結

通過上面的圖檔,可以發現非阻塞IO和異步IO的差別還是很明顯的。

在非阻塞IO中,雖然程序大部分時間都不會被阻塞,但是它仍然要求程序去主動的check

,并且當資料準備完成以後,也需要程序主動的再次調用recvfrom來将資料拷貝到使用者記憶體。而異步IO則完全不同。

它就像是使用者程序将整個IO操作交給了他人(kernel)完成,然後他人做完後發信号通知

。在此期間,

使用者程序不需要去檢查IO操作的狀态,也不需要主動的去拷貝資料

繼續閱讀