天天看點

處理大并發之五 使用libevent利器bufferevent

處理大并發之五 使用libevent利器bufferevent

         首先來翻譯一段文章

         你可能注意到随着我們代碼變得越來越高效,程式也變得更加複雜。當我們産生一個程序的時候,我們沒有必要為每一個連結管理一個buffer,我們隻需要每個處理獨立棧配置設定緩沖區就可以了。在讀和寫的時候,我們不必明确的跟蹤每一個socket,這在我們的代碼裡是一個暗示,我們沒有必要定義一個結構體去跟蹤每一個操作什麼時候完成,我們隻需要使用循環棧變量就可以了。

         此外,如果你在windows網絡程式設計方面有着豐富的經驗,當你在使用上一篇部落格中的例子時,你可能認識到libevent可能達不到最理想的性能。在windows上,你做的快速異步IO不是用的select,它使用的IOCP API。和其他的快速網絡API不同,當你的程式執行完成,sock準備完成,IOCP不會通知你的程式,取而代之的是,程式告訴windows網絡棧開啟一個網絡操作,并且當操作執行完成時,IOCP會告訴程式。

         幸運的是,libevent2 的bufferevents接口解決了上面的這些沖突,它使得程式更加容易寫,并且為windows和unix提供了有效的接口。

分析:

libevent的bufferevent在event的基礎上自己維護了一個buffer,這樣的話,就不需要再自己管理一個buffer了,上一篇部落格是自己維護一個buffer,維護過程複雜,且過程難以了解,既然libevent自己提供了bufferevent這個神器,且有API,何必自己維護呢?

先看看struct bufferevent這個結構體

[cpp]  view plain  copy

  1. struct bufferevent {  
  2.                struct event_base *ev_base;  
  3.         const struct bufferevent_ops *be_ops;  
  4.         struct event ev_read;  
  5.         struct event ev_write;  
  6.         struct evbuffer *input;  
  7.         struct evbuffer *output;  
  8.         ……  
  9.         bufferevent_data_cb readcb;  
  10.         bufferevent_data_cb writecb;  
  11.         bufferevent_event_cb errorcb;  
  12.         ……  
  13. }  

可以看出struct bufferevent内置了兩個event(讀/寫)和對應的緩沖區。當有資料被讀入(input)的時候,readcb被調用,當output被輸出完成的時候,writecb被調用,當網絡I/O出現錯誤,如連結中斷,逾時或其他錯誤時,errorcb被調用。

使用bufferevent的過程:

1. 設定sock為非阻塞的

[cpp]  view plain  copy

  1. eg:  evutil_make_socket_nonblocking(fd);  

2. 使用bufferevent_socket_new建立一個structbufferevent *bev,關聯該sockfd,托管給event_base

函數原型為:

[cpp]  view plain  copy

  1. struct bufferevent * bufferevent_socket_new(struct event_base *base, evutil_socket_t fd,  int options)  
  2. eg:  struct bufferevent *bev;  
  3. bev = bufferevent_socket_new(base, fd, BEV_OPT_CLOSE_ON_FREE);  

3. 設定讀寫對應的回調函數

函數原型為:

[cpp]  view plain  copy

  1. void bufferevent_setcb(struct bufferevent *bufev,  
  2.     bufferevent_data_cb readcb, bufferevent_data_cb writecb,  
  3.     bufferevent_event_cb eventcb, void *cbarg)  
  4. eg.  bufferevent_setcb(bev, readcb, NULL, errorcb, NULL);  

4. 啟用讀寫事件,其實是調用了event_add将相應讀寫事件加入事件監聽隊列poll。正如文檔所說,如果相應事件不置為true,bufferevent是不會讀寫資料的

函數原型:

[cpp]  view plain  copy

  1. int bufferevent_enable(struct bufferevent *bufev, short event)  
  2. eg.  bufferevent_enable(bev, EV_READ|EV_WRITE);  

5. 進入bufferevent_setcb回調函數:

在readcb裡面從input中讀取資料,處理完畢後填充到output中;

writecb對于服務端程式,隻需要readcb就可以了,可以置為NULL;

errorcb用于處理一些錯誤資訊。

針對這些使用過程進入源碼進行分析:

1. bufferevent_socket_new

(1)在bufferevent_init_common中調用evbuffer_new()初始化input和output

(2)在event_assign中初始化bufferevent中的ev_read和ev_write事件。

(3)在evbuffer_add_cb中給output添加了一個callback bufferevent_socket_outbuf_cb

2. bufferevent_setcb

該函數的作用主要是指派,把該函數後面的參數,指派給第一個參數struct bufferevent *bufev定義的變量

3. bufferevent_enable

調用event_add将讀寫事件加入到事件監聽隊列中。

對bufferevent常用的幾個函數進行分析:

[cpp]  view plain  copy

  1. char *evbuffer_readln(struct evbuffer*buffer, size_t *n_read_out,enum evbuffer_eol_style eol_style);  

含義:Read a single line from an evbuffer.

傳回值:讀到的一行内容

[cpp]  view plain  copy

  1. int evbuffer_add(struct evbuffer *buf,const void *data, size_t datlen);  

含義:将資料添加到evbuffer的結尾

傳回值:成功傳回0,失敗傳回-1

[cpp]  view plain  copy

  1. int evbuffer_remove(struct evbuffer*buf, void *data, size_t datlen);  

含義:從evbuffer讀取資料到data

傳回值:成功傳回0,失敗傳回-1

[cpp]  view plain  copy

  1. size_t evbuffer_get_length(const structevbuffer *buf);  

含義:傳回evbuffer中存儲的位元組長度

暫時先分析到這裡,下面是代碼,用戶端發送消息:HTTP/1.0, Client 0 send Message:

Request: Hello Server! over,服務端一條消息收完成後,會回複:Response ok! Hello Client!

服務端從bufferevent中取出消息是按行取的。代碼可能有不完善的地方,由于才疏學淺,研究時間短(3天),希望高手提出寶貴意見。

libevent_eventbuffer_server.c

[cpp]  view plain  copy

  1. #include <netinet/in.h>  
  2. #include <sys/socket.h>  
  3. #include <fcntl.h>  
  4. #include <event2/event.h>  
  5. #include <event2/buffer.h>  
  6. #include <event2/bufferevent.h>  
  7. #include <assert.h>  
  8. #include <unistd.h>  
  9. #include <string.h>  
  10. #include <stdlib.h>  
  11. #include <stdio.h>  
  12. #include <errno.h>  
  13. void do_read(evutil_socket_t fd, short events, void *arg);  
  14. //struct bufferevent内建了兩個event(read/write)和對應的緩沖區(struct evbuffer *input, *output),并提供相應的函數用來操作>  
  15. 緩沖區(或者直接操作bufferevent)  
  16. //接收到資料後,判斷是不一樣一條消息的結束,結束标志為"over"字元串  
  17. void readcb(struct bufferevent *bev, void *ctx)  
  18. {  
  19.     printf("called readcb!\n");  
  20.     struct evbuffer *input, *output;  
  21.     char *request_line;  
  22.     size_t len;  
  23.     input = bufferevent_get_input(bev);//其實就是取出bufferevent中的input  
  24.     output = bufferevent_get_output(bev);//其實就是取出bufferevent中的output  
  25.     size_t input_len = evbuffer_get_length(input);  
  26.     printf("input_len: %d\n", input_len);  
  27.     size_t output_len = evbuffer_get_length(output);  
  28.     printf("output_len: %d\n", output_len);  
  29.     while(1)  
  30.     {  
  31.         request_line = evbuffer_readln(input, &len, EVBUFFER_EOL_CRLF);//從evbuffer前面取出一行,用一個新配置設定的空字元結束  
  32. 的字元串傳回這一行,EVBUFFER_EOL_CRLF表示行尾是一個可選的回車,後随一個換行符  
  33.         if(NULL == request_line)  
  34.         {  
  35.             printf("The first line has not arrived yet.\n");  
  36.             free(request_line);//之是以要進行free是因為 line = mm_malloc(n_to_copy+1)),在這裡進行了malloc  
  37.             break;  
  38.         }  
  39.         else  
  40. <span style="white-space: pre;">    </span>{  
  41.             printf("Get one line date: %s\n", request_line);  
  42.             if(strstr(request_line, "over") != NULL)//用于判斷是不是一條消息的結束  
  43.             {  
  44.                 char *response = "Response ok! Hello Client!\r\n";  
  45.                 evbuffer_add(output, response, strlen(response));//Adds data to an event buffer  
  46.                 printf("服務端接收一條資料完成,回複用戶端一條消息: %s\n", response);  
  47.                 free(request_line);  
  48.                 break;  
  49.             }  
  50.         }  
  51.         free(request_line);  
  52.     }  
  53.     size_t input_len1 = evbuffer_get_length(input);  
  54.     printf("input_len1: %d\n", input_len1);  
  55.     size_t output_len1 = evbuffer_get_length(output);  
  56.     printf("output_len1: %d\n\n", output_len1);  
  57. }  
  58. void errorcb(struct bufferevent *bev, short error, void *ctx)  
  59. {  
  60.     if (error & BEV_EVENT_EOF)  
  61.     {  
  62.         printf("connection closed\n");  
  63.     }  
  64.     else if (error & BEV_EVENT_ERROR)  
  65.     {  
  66.         printf("some other error\n");  
  67.     }  
  68.     else if (error & BEV_EVENT_TIMEOUT)  
  69.     {  
  70.         printf("Timed out\n");  
  71.     }  
  72.     bufferevent_free(bev);  
  73. }  
  74. void do_accept(evutil_socket_t listener, short event, void *arg)  
  75. {  
  76.     struct event_base *base = arg;  
  77.     struct sockaddr_storage ss;  
  78.     socklen_t slen = sizeof(ss);  
  79.     int fd = accept(listener, (struct sockaddr*)&ss, &slen);  
  80.     if (fd < 0)  
  81.     {  
  82.         perror("accept");  
  83.     }  
  84.     else if (fd > FD_SETSIZE)  
  85.     {  
  86.         close(fd);  
  87.     }  
  88.     else  
  89.     {  
  90.         struct bufferevent *bev;  
  91.         evutil_make_socket_nonblocking(fd);  
  92.         //使用bufferevent_socket_new建立一個struct bufferevent *bev,關聯該sockfd,托管給event_base  
  93.         BEV_OPT_CLOSE_ON_FREE表示釋放bufferevent時關閉底層傳輸端口。這将關閉底層套接字,釋放底層bufferevent等。  
  94.         bev = bufferevent_socket_new(base, fd, BEV_OPT_CLOSE_ON_FREE);  
  95.         //設定讀寫對應的回調函數  
  96.         bufferevent_setcb(bev, readcb, NULL, errorcb, NULL);  
  97. //      bufferevent_setwatermark(bev, EV_READ, 0, MAX_LINE);  
  98.         //啟用讀寫事件,其實是調用了event_add将相應讀寫事件加入事件監聽隊列poll。正如文檔所說,如果相應事件不置為true,buf  
  99. ferevent是不會讀寫資料的  
  100.         bufferevent_enable(bev, EV_READ|EV_WRITE);  
  101.     }  
  102. }  
  103. void run(void)  
  104. {  
  105.     evutil_socket_t listener;  
  106.     struct sockaddr_in sin;  
  107.     struct event_base *base;  
  108.     struct event *listener_event;  
  109.     base = event_base_new();  
  110.     if (!base)  
  111.         return;   
  112.     sin.sin_family = AF_INET;  
  113.     sin.sin_addr.s_addr = 0;  
  114.     sin.sin_port = htons(8000);  
  115.     listener = socket(AF_INET, SOCK_STREAM, 0);  
  116.     evutil_make_socket_nonblocking(listener);  
  117. #ifndef WIN32  
  118.     {  
  119.         int one = 1;  
  120.         setsockopt(listener, SOL_SOCKET, SO_REUSEADDR, &one, sizeof(one));  
  121.     }  
  122. #endif  
  123.     if (bind(listener, (struct sockaddr*)&sin, sizeof(sin)) < 0)  
  124.     {  
  125.         perror("bind");  
  126.         return;  
  127.     }  
  128. if (listen(listener, 16)<0)  
  129.     {  
  130.         perror("listen");  
  131.         return;  
  132.     }  
  133.     listener_event = event_new(base, listener, EV_READ|EV_PERSIST, do_accept, (void*)base);  
  134.     event_add(listener_event, NULL);  
  135.     event_base_dispatch(base);  
  136. }  
  137. int main(int argc, char **argv)  
  138. {  
  139.     setvbuf(stdout, NULL, _IONBF, 0);  
  140.     run();  
  141.     return 0;  
  142. }  

編譯:gcc -I/usr/include-o test libevent_eventbuffer_server.c -L/usr/local/lib –levent

運作:

服務端:

處理大并發之五 使用libevent利器bufferevent

用戶端:

處理大并發之五 使用libevent利器bufferevent

今晚部落格暫時寫完了,時間比較倉促,錯誤估計不會少,關于bufferevent很多API都還不是很熟悉,還有libevent 添加事件event_add是非線程安全的,如果使用多線程,需要保證event_add不能出現在多個線程中,以後有時間慢慢研究。

體會:關于源碼,還需要好好研究,其實今晚挺郁悶的,弄了半天,沒有什麼進展,現在自己還有很多疑問,主要是自己太急了,不過3天時間做到基本了解,自己還算滿意,下一步有時間多研究下吧。晚安,北京

如是轉載,請指明原出處: http://blog.csdn.net/feitianxuxue ,謝謝合作!