【轉載】 "Comet：基于 HTTP 長連接配接的“伺服器推”技術"

轉自 "http://www.ibm.com/developerworks/cn/web/wa-lo-comet/#resources"

Comet：基于 HTTP 長連接配接的“伺服器推”技術

很多應用譬如監控、即時通信、即時報價系統都需要将背景發生的變化實時傳送到用戶端而無須用戶端不停地重新整理、發送請求。本文首先介紹、比較了常用的“伺服器推”方案，着重介紹了 Comet － 使用 HTTP 長連接配接、無須浏覽器安裝插件的兩種“伺服器推”方案：基于 AJAX 的長輪詢方式；基于 iframe 及 htmlfile 的流方式。最後分析了開發 Comet 應用需要注意的一些問題，以及如何借助開源的 Comet 架構－pushlet 建構自己的“伺服器推”應用。

“伺服器推”技術的應用

傳統模式的 Web 系統以用戶端送出請求、伺服器端響應的方式工作。這種方式并不能滿足很多現實應用的需求，譬如：

• 監控系統：背景硬體熱插拔、LED、溫度、電壓發生變化；
• 即時通信系統：其它使用者登入、發送資訊；
• 即時報價系統：背景資料庫内容發生變化；

這些應用都需要伺服器能實時地将更新的資訊傳送到用戶端，而無須用戶端送出請求。“伺服器推”技術在現實應用中有一些解決方案，本文将這些解決方案分為兩類：一類需要在浏覽器端安裝插件，基于套接口傳送資訊，或是使用 RMI、CORBA 進行遠端調用；而另一類則無須浏覽器安裝任何插件、基于 HTTP 長連接配接。

将“伺服器推”應用在 Web 程式中，首先考慮的是如何在功能有限的浏覽器端接收、處理資訊：

1. 用戶端如何接收、處理資訊，是否需要使用套接口或是使用遠端調用。用戶端呈現給使用者的是 HTML 頁面還是 Java applet 或 Flash 視窗。如果使用套接口和遠端調用，怎麼和 JavaScript 結合修改 HTML 的顯示。
2. 客戶與伺服器端通信的資訊格式，采取怎樣的出錯處理機制。
3. 用戶端是否需要支援不同類型的浏覽器如 IE、Firefox，是否需要同時支援 Windows 和 Linux 平台。

回頁首

基于用戶端套接口的“伺服器推”技術

Flash XMLSocket

如果 Web 應用的使用者接受應用隻有在安裝了 Flash 播放器才能正常運作， 那麼使用 Flash 的 XMLSocket 也是一個可行的方案。

這種方案實作的基礎是：

1. Flash 提供了 XMLSocket 類。
2. JavaScript 和 Flash 的緊密結合：在 JavaScript 可以直接調用 Flash 程式提供的接口。

具體實作方法：在 HTML 頁面中内嵌入一個使用了 XMLSocket 類的 Flash 程式。JavaScript 通過調用此 Flash 程式提供的套接口接口與伺服器端的套接口進行通信。JavaScript 在收到伺服器端以 XML 格式傳送的資訊後可以很容易地控制 HTML 頁面的内容顯示。

關于如何去建構充當了 JavaScript 與 Flash XMLSocket 橋梁的 Flash 程式，以及如何在 JavaScript 裡調用 Flash 提供的接口，我們可以參考 AFLAX（Asynchronous Flash and XML）項目提供的 Socket Demo 以及 SocketJS（請參見 參考資源）。

Javascript 與 Flash 的緊密結合，極大增強了用戶端的處理能力。從 Flash 播放器 V7.0.19 開始，已經取消了 XMLSocket 的端口必須大于 1023 的限制。Linux 平台也支援 Flash XMLSocket 方案。但此方案的缺點在于：

1. 用戶端必須安裝 Flash 播放器；
2. 因為 XMLSocket 沒有 HTTP 隧道功能，XMLSocket 類不能自動穿過防火牆；
3. 因為是使用套接口，需要設定一個通信端口，防火牆、代理伺服器也可能對非 HTTP 通道端口進行限制；

不過這種方案在一些網絡聊天室，網絡互動遊戲中已得到廣泛使用。

Java Applet 套接口

在用戶端使用 Java Applet，通過 java.net.Socket 或 java.net.DatagramSocket 或 java.net.MulticastSocket 建立與伺服器端的套接口連接配接，進而實作“伺服器推”。

這種方案最大的不足在于 Java applet 在收到伺服器端傳回的資訊後，無法通過 JavaScript 去更新 HTML 頁面的内容。

回頁首

基于 HTTP 長連接配接的“伺服器推”技術

Comet 簡介

浏覽器作為 Web 應用的前台，自身的處理功能比較有限。浏覽器的發展需要用戶端更新軟體，同時由于用戶端浏覽器軟體的多樣性，在某種意義上，也影響了浏覽器新技術的推廣。在 Web 應用中，浏覽器的主要工作是發送請求、解析伺服器傳回的資訊以不同的風格顯示。AJAX 是浏覽器技術發展的成果，通過在浏覽器端發送異步請求，提高了單使用者操作的響應性。但 Web 本質上是一個多使用者的系統，對任何使用者來說，可以認為伺服器是另外一個使用者。現有 AJAX 技術的發展并不能解決在一個多使用者的 Web 應用中，将更新的資訊實時傳送給用戶端，進而使用者可能在“過時”的資訊下進行操作。而 AJAX 的應用又使背景資料更新更加頻繁成為可能。

圖 1. 傳統的 Web 應用模型與基于 AJAX 的模型之比較

“伺服器推”是一種很早就存在的技術，以前在實作上主要是通過用戶端的套接口，或是伺服器端的遠端調用。因為浏覽器技術的發展比較緩慢，沒有為“伺服器推”的實作提供很好的支援，在純浏覽器的應用中很難有一個完善的方案去實作“伺服器推”并用于商業程式。最近幾年，因為 AJAX 技術的普及，以及把 IFrame 嵌在“htmlfile“的 ActiveX 元件中可以解決 IE 的加載顯示問題，一些受歡迎的應用如 meebo，gmail+gtalk 在實作中使用了這些新技術；同時“伺服器推”在現實應用中确實存在很多需求。因為這些原因，基于純浏覽器的“伺服器推”技術開始受到較多關注，Alex Russell（Dojo Toolkit 的項目 Lead）稱這種基于 HTTP 長連接配接、無須在浏覽器端安裝插件的“伺服器推”技術為“Comet”。目前已經出現了一些成熟的 Comet 應用以及各種開源架構；一些 Web 伺服器如 Jetty 也在為支援大量并發的長連接配接進行了很多改進。關于 Comet 技術最新的發展狀況請參考關于 Comet 的 wiki。

下面将介紹兩種 Comet 應用的實作模型。

基于 AJAX 的長輪詢（long-polling）方式

如 圖 1 所示，AJAX 的出現使得 JavaScript 可以調用 XMLHttpRequest 對象發出 HTTP 請求，JavaScript 響應處理函數根據伺服器傳回的資訊對 HTML 頁面的顯示進行更新。使用 AJAX 實作“伺服器推”與傳統的 AJAX 應用不同之處在于：

1. 伺服器端會阻塞請求直到有資料傳遞或逾時才傳回。
2. 用戶端 JavaScript 響應處理函數會在處理完伺服器傳回的資訊後，再次送出請求，重建立立連接配接。
3. 當用戶端處理接收的資料、重建立立連接配接時，伺服器端可能有新的資料到達；這些資訊會被伺服器端儲存直到用戶端重建立立連接配接，用戶端會一次把目前伺服器端所有的資訊取回。

圖 2. 基于長輪詢的伺服器推模型

一些應用及示例如 “Meebo”, “Pushlet Chat” 都采用了這種長輪詢的方式。相對于“輪詢”（poll），這種長輪詢方式也可以稱為“拉”（pull）。因為這種方案基于 AJAX，具有以下一些優點：請求異步發出；無須安裝插件；IE、Mozilla FireFox 都支援 AJAX。

在這種長輪詢方式下，用戶端是在 XMLHttpRequest 的 readystate 為 4（即資料傳輸結束）時調用回調函數，進行資訊處理。當 readystate 為 4 時，資料傳輸結束，連接配接已經關閉。Mozilla Firefox 提供了對 Streaming AJAX 的支援， 即 readystate 為 3 時（資料仍在傳輸中），用戶端可以讀取資料，進而無須關閉連接配接，就能讀取處理伺服器端傳回的資訊。IE 在 readystate 為 3 時，不能讀取伺服器傳回的資料，目前 IE 不支援基于 Streaming AJAX。

基于 Iframe 及 htmlfile 的流（streaming）方式

iframe 是很早就存在的一種 HTML 标記， 通過在 HTML 頁面裡嵌入一個隐蔵幀，然後将這個隐蔵幀的 SRC 屬性設為對一個長連接配接的請求，伺服器端就能源源不斷地往用戶端輸入資料。

圖 3. 基于流方式的伺服器推模型

上節提到的 AJAX 方案是在 JavaScript 裡處理 XMLHttpRequest 從伺服器取回的資料，然後 Javascript 可以很友善的去控制 HTML 頁面的顯示。同樣的思路用在 iframe 方案的用戶端，iframe 伺服器端并不傳回直接顯示在頁面的資料，而是傳回對用戶端 Javascript 函數的調用，如“<script type="text/javascript">js_func(“data from server ”)</script>”。伺服器端将傳回的資料作為用戶端 JavaScript 函數的參數傳遞；用戶端浏覽器的 Javascript 引擎在收到伺服器傳回的 JavaScript 調用時就會去執行代碼。

從 圖 3 可以看到，每次資料傳送不會關閉連接配接，連接配接隻會在通信出現錯誤時，或是連接配接重建時關閉（一些防火牆常被設定為丢棄過長的連接配接， 伺服器端可以設定一個逾時時間， 逾時後通知用戶端重建立立連接配接，并關閉原來的連接配接）。

使用 iframe 請求一個長連接配接有一個很明顯的不足之處：IE、Morzilla Firefox 下端的進度欄都會顯示加載沒有完成，而且 IE 上方的圖示會不停的轉動，表示加載正在進行。Google 的天才們使用一個稱為“htmlfile”的 ActiveX 解決了在 IE 中的加載顯示問題，并将這種方法用到了 gmail+gtalk 産品中。Alex Russell 在 “What else is burried down in the depth's of Google's amazing JavaScript?”文章中介紹了這種方法。Zeitoun 網站提供的 comet-iframe.tar.gz，封裝了一個基于 iframe 和 htmlfile 的 JavaScript comet 對象，支援 IE、Mozilla Firefox 浏覽器，可以作為參考。（請參見 參考資源）

回頁首

使用 Comet 模型開發自己的應用

上面介紹了兩種基于 HTTP 長連接配接的“伺服器推”架構，更多描述了用戶端處理長連接配接的技術。對于一個實際的應用而言，系統的穩定性和性能是非常重要的。将 HTTP 長連接配接用于實際應用，很多細節需要考慮。

不要在同一用戶端同時使用超過兩個的 HTTP 長連接配接

我們使用 IE 下載下傳檔案時會有這樣的體驗，從同一個 Web 伺服器下載下傳檔案，最多隻能有兩個檔案同時被下載下傳。第三個檔案的下載下傳會被阻塞，直到前面下載下傳的檔案下載下傳完畢。這是因為 HTTP 1.1 規範中規定，用戶端不應該與伺服器端建立超過兩個的 HTTP 連接配接， 新的連接配接會被阻塞。而 IE 在實作中嚴格遵守了這種規定。

HTTP 1.1 對兩個長連接配接的限制，會對使用了長連接配接的 Web 應用帶來如下現象：在用戶端如果打開超過兩個的 IE 視窗去通路同一個使用了長連接配接的 Web 伺服器，第三個 IE 視窗的 HTTP 請求被前兩個視窗的長連接配接阻塞。

是以在開發長連接配接的應用時， 必須注意在使用了多個 frame 的頁面中，不要為每個 frame 的頁面都建立一個 HTTP 長連接配接，這樣會阻塞其它的 HTTP 請求，在設計上考慮讓多個 frame 的更新共用一個長連接配接。

伺服器端的性能和可擴充性

一般 Web 伺服器會為每個連接配接建立一個線程，如果在大型的商業應用中使用 Comet，伺服器端需要維護大量并發的長連接配接。在這種應用背景下，伺服器端需要考慮負載均衡和叢集技術；或是在伺服器端為長連接配接作一些改進。

應用和技術的發展總是帶來新的需求，進而推動新技術的發展。HTTP 1.1 與 1.0 規範有一個很大的不同：1.0 規範下伺服器在處理完每個 Get/Post 請求後會關閉套接口連接配接； 而 1.1 規範下伺服器會保持這個連接配接，在處理兩個請求的間隔時間裡，這個連接配接處于空閑狀态。 Java 1.4 引入了支援異步 IO 的 java.nio 包。當連接配接處于空閑時，為這個連接配接配置設定的線程資源會返還到線程池，可以供新的連接配接使用；當原來處于空閑的連接配接的客戶發出新的請求，會從線程池裡配置設定一個線程資源處理這個請求。 這種技術在連接配接處于空閑的機率較高、并發連接配接數目很多的場景下對于降低伺服器的資源負載非常有效。

但是 AJAX 的應用使請求的出現變得頻繁，而 Comet 則會長時間占用一個連接配接，上述的伺服器模型在新的應用背景下會變得非常低效，線程池裡有限的線程數甚至可能會阻塞新的連接配接。Jetty 6 Web 伺服器針對 AJAX、Comet 應用的特點進行了很多創新的改進，請參考文章“AJAX，Comet and Jetty”（請參見 參考資源）。

控制資訊與資料資訊使用不同的 HTTP 連接配接

使用長連接配接時，存在一個很常見的場景：用戶端網頁需要關閉，而伺服器端還處在讀取資料的堵塞狀态，用戶端需要及時通知伺服器端關閉資料連接配接。伺服器在收到關閉請求後首先要從讀取資料的阻塞狀态喚醒，然後釋放為這個用戶端配置設定的資源，再關閉連接配接。

是以在設計上，我們需要使用戶端的控制請求和資料請求使用不同的 HTTP 連接配接，才能使控制請求不會被阻塞。

在實作上，如果是基于 iframe 流方式的長連接配接，用戶端頁面需要使用兩個 iframe，一個是控制幀，用于往伺服器端發送控制請求，控制請求能很快收到響應，不會被堵塞；一個是顯示幀，用于往伺服器端發送長連接配接請求。如果是基于 AJAX 的長輪詢方式，用戶端可以異步地發出一個 XMLHttpRequest 請求，通知伺服器端關閉資料連接配接。

在客戶和伺服器之間保持“心跳”資訊

在浏覽器與伺服器之間維持一個長連接配接會為通信帶來一些不确定性：因為資料傳輸是随機的，用戶端不知道何時伺服器才有資料傳送。伺服器端需要確定當用戶端不再工作時，釋放為這個用戶端配置設定的資源，防止記憶體洩漏。是以需要一種機制使雙方知道大家都在正常運作。在實作上：

1. 伺服器端在阻塞讀時會設定一個時限，逾時後阻塞讀調用會傳回，同時發給用戶端沒有新資料到達的心跳資訊。此時如果用戶端已經關閉，伺服器往通道寫資料會出現異常，伺服器端就會及時釋放為這個用戶端配置設定的資源。
2. 如果用戶端使用的是基于 AJAX 的長輪詢方式；伺服器端傳回資料、關閉連接配接後，經過某個時限沒有收到用戶端的再次請求，會認為用戶端不能正常工作，會釋放為這個用戶端配置設定、維護的資源。
3. 當伺服器處理資訊出現異常情況，需要發送錯誤資訊通知用戶端，同時釋放資源、關閉連接配接。

Pushlet - 開源 Comet 架構

Pushlet 是一個開源的 Comet 架構，在設計上有很多值得借鑒的地方，對于開發輕量級的 Comet 應用很有參考價值。

觀察者模型

Pushlet 使用了觀察者模型：用戶端發送請求，訂閱感興趣的事件；伺服器端為每個用戶端配置設定一個會話 ID 作為标記，事件源會把新産生的事件以多點傳播的方式發送到訂閱者的事件隊列裡。

用戶端 JavaScript 庫

pushlet 提供了基于 AJAX 的 JavaScript 庫檔案用于實作長輪詢方式的“伺服器推”；還提供了基于 iframe 的 JavaScript 庫檔案用于實作流方式的“伺服器推”。

JavaScript 庫做了很多封裝工作：

1. 定義用戶端的通信狀态：STATE_ERROR、STATE_ABORT、STATE_NULL、STATE_READY、STATE_JOINED、STATE_LISTENING；
2. 儲存伺服器配置設定的會話 ID，在建立連接配接之後的每次請求中會附上會話 ID 表明身份；
3. 提供了 join()、leave()、subscribe()、 unsubsribe()、listen() 等 API 供頁面調用；
4. 提供了處理響應的 JavaScript 函數接口 onData()、onEvent()…

網頁可以很友善地使用這兩個 JavaScript 庫檔案封裝的 API 與伺服器進行通信。

用戶端與伺服器端通信資訊格式

pushlet 定義了一套客戶與伺服器通信的資訊格式，使用 XML 格式。定義了用戶端發送請求的類型：join、leave、subscribe、unsubscribe、listen、refresh；以及響應的事件類型：data、join_ack、listen_ack、refresh、heartbeat、error、abort、subscribe_ack、unsubscribe_ack。

伺服器端事件隊列管理

pushlet 在伺服器端使用 Java Servlet 實作，其資料結構的設計架構仍可适用于 PHP、C 編寫的背景用戶端。

Pushlet 支援用戶端自己選擇使用流、拉（長輪詢）、輪詢方式。伺服器端根據客戶選擇的方式在讀取事件隊列（fetchEvents）時進行不同的處理。“輪詢”模式下 fetchEvents() 會馬上傳回。”流“和”拉“模式使用阻塞的方式讀事件，如果逾時，會發給用戶端發送一個沒有新資訊收到的“heartbeat“事件，如果是“拉”模式，會把“heartbeat”與“refresh”事件一起傳給用戶端，通知用戶端重新送出請求、建立連接配接。

客戶伺服器之間的會話管理

服務端在用戶端發送 join 請求時，會為用戶端配置設定一個會話 ID， 并傳給用戶端，然後用戶端就通過此會話 ID 标明身份發出 subscribe 和 listen 請求。