作為知名泛娛樂直播平台,熊貓直播資料緯度多、資料量巨大,通過借助阿裡雲多項服務,不斷優化雲上資源,最終建立起靈活配置、高擴充性、易于運維的雲上架構。本文将帶領大家一同了解熊貓直播大視訊資料業務的雲上曆程。
“未來,熊貓直播會将依托阿裡雲,繼續深耕大視訊資料業務,滿足大視訊時代不斷演進的大資料需求。”
——盧聖剛
熊貓直播大資料技術專家
為了滿足大視訊時代的大資料需求,熊貓直播經曆了從Fluentd + ODPS、到Flume + Ambari、再到Flume + EMR的架構演進曆程。
<b>采用的阿裡雲産品</b>
阿裡雲雲伺服器 ECS
阿裡雲 E-MapReduce
阿裡雲釘釘企業版
<b>為什麼使用阿裡雲</b>
阿裡雲EMR服務具備靈活、快速、存儲成本低的優勢。
阿裡雲服務的支撐保障,使熊貓直播能夠減少運維工作,更專注于業務。
<b>關于熊貓直播</b>
熊貓直播是由上海熊貓互娛文化有限公司創辦的一家彈幕式視訊直播網站。注冊資本為2000萬元,法定代表人為龍飛。2016年11月,熊貓直播榮登2016中國泛娛樂指數盛典“中國文娛創新企業榜 TOP30”。
<b>熊貓直播的痛點所在</b>
在身處大視訊時代的當下,熊貓直播面對分散在MySQL、Redis、MongoDB之中的資料源頭,需要實作統一的資料存儲;面對不同的業務場景和高速的業務發展,需要實作靈活的橫向擴充——不僅能靈活添加開源組建,還需要能快速增加計算節點。
作為高速發展的直播平台,熊貓直播資料緯度多、資料量巨大——累計已經達到PB級,僅僅每天新增的就有幾十T。就離線計算的資料量看,每天幾百個日常計算任務,以及大量的臨時查詢需求。
<b>為什麼選擇阿裡雲?</b>
<b>阿裡雲EMR服務靈活、快速、存儲成本低</b>
阿裡雲EMR——Elastic MapReduce(E-MapReduce),是基于阿裡雲ECS之上半托管開源大資料軟體棧。EMR的彈性動态伸縮,能夠幫助熊貓直播直線快捷的擴容、縮容EMR Hadoop叢集,靈活、快速部署開源大資料服務(HBase、Kafka、Impala,Flink等),還具備資料存儲成本低的優勢。
<b></b>
<b>阿裡雲服務能減少運維工作</b>
運維機制對于選擇EMR具有關鍵作用。阿裡雲企業服務對熊貓直播給予7*24小時釘釘群支援,快速解決叢集使用問題。阿裡雲服務的支撐保障,使熊貓直播能夠減少運維工作,更專注于業務。
<b>遷移上阿裡雲後的成效</b>
熊貓直播借助阿裡雲服務,不斷優化雲上資源,最終建立起靈活配置、高擴充性、易于運維的雲上架構。
原文釋出日期:2017-12-21
雲栖社群場景研究小組成員:董普慶,仲浩。