天天看點

走進阿裡雲計算

2016年4月15日下午,我參加了阿裡巴巴技術論壇的《雲計算與大資料技術分論壇》。會議讨論主題涉及飛天技術與應用、大資料計算平台的研究與實踐、大規模實時計算及應用和雲上安全。阿裡雲飛天總架構師唐洪、資深專家林偉、進階專家錢正平、安全研究員吳瀚清向我們呈現了精彩的演講。

走進阿裡雲計算

<b>何為雲計算?</b>

“雲計算”對于我們來說,早已經不是一個陌生的詞彙了。對雲計算的定義有多種說法。對于到底什麼是雲計算,至少可以找到100種解釋。現階段廣為接受的是美國國家标準與技術研究院(nist)定義:雲計算是一種按使用量付費的模式,這種模式提供可用的、便捷的、按需的網絡通路,

進入可配置的計算資源共享池(資源包括網絡,伺服器,存儲,應用軟體,服務),這些資源能夠被快速提供,隻需投入很少的管理工作,或與服務供應商進行很少的互動。

阿裡雲飛天總架構師唐洪為我們揭示了雲計算的三個本質問題:大規模,雲計算是應網際網路而生并且為網際網路服務的;低成本,低成本不等于低價格,排程才是關鍵;服務營運,像公共服務一樣按量計費。

雲計算的作用很大,其中讓我感觸最深的是雲計算能夠降低創業的門檻。這主要展現在兩個方面:一是可以降低成本門檻,二是可以降低技術門檻。随着雲計算的逐漸發展和成熟,雲主機已經可以基本替代傳統的實體托管主機,并且具有彈性配置,按需自助服務,價格優惠等優勢,近兩年的趨勢就是越來愈多的客戶會選擇雲主機服務。現在的創業模式完全不同于以前,人們對傳統it資源的依賴性越來越小,但雲端工具的依賴性卻變得越來越大,這些工具可以幫助他們将腦中的想法變成現實、轉換為成功的創業模式。在全民創業、萬衆創新的大趨勢下,雲計算讓大小企業站在了同一個起跑線上,小公司通過雲計算也擁有了大公司一樣的能力,可以去做他們想做的創新。我們手機上各種app的誕生不斷見證着雲計算的重要價值。雲計算還有兩個作用是賦能業務創新和支援傳統産業更新。

<b>飛天的了解和感受</b>

飛天系統是阿裡巴巴的大規模分布式作業系統。由于之前不了解分布式系統,是以自己在網上查找了一些分布式系統的概念和了解。通俗點說,分布式系統就是把伺服器端程式分開部署到多台機器上。飛天的兩個設計原則是:以大規模通用計算平台為基礎,同一套系統支援離線和線上服務,多租戶、資源共享、削峰填谷;以web api方式提供服務,即時開通按量付費,叢集邊界、位置對使用者透明。

通過了解飛天的曆史,我真正感受到,沒有創新就沒有飛天,沒有飛天就沒有現在的阿裡雲。飛天系統的研究是在阿裡巴巴it費用的增長超過了業務的增長這個背景下提出的。經過阿裡人的創新和努力,飛天的出現讓使用者感覺不到地域的邊界,給阿裡各種業務帶來強力支援的同時給其他大小公司的發展也帶來了希望。

<b>一個感興趣的算法</b>

大資料系統的發展趨勢由資料和計算規模轉變為時效性和計算延時。大規模實時計算的特點包括:超大規模,每天處理幾十億事件、上千個計算節點;複雜計算,幾十個計算階段、複雜join語義和幾十tb記憶體狀态;容錯,從系統維護和異常故障中自動恢複。其系統架構為移動裝置、傳感器、雲伺服器、事件存儲、線上服務通過實時計算平台将計算結果傳給移動裝置、監控終端、商業報表和實時大屏。

在實時計算分析的講解過程中,我對阿裡雲進階專家錢正平講的流計算比較感興趣,錢老師通過通俗易懂的講解和精心準備的示意圖讓我對流計算有了一定的了解。任何分布式計算都可以通過全局快照存下來。但使用全局快照的一個問題是,一個人出現問題時,所有人都得跟着復原,這樣就會造成系統的延時。在此基礎上提出了無狀态計算,即假設流計算沒有狀态,check輸入輸出的映射關系,建立依賴樹。這個方法存在的問題是計算量太大,而且不能保證每個映射關系都找到,容易丢失資訊。其中,容錯面臨的挑戰包括三個方面:對上遊依賴;重構計算狀态;影響下遊計算。更好的一種方法是迷你批處理(mini-batch),将輸入流資料分批後通過批處理引擎得到輸出流。這種方法也存在問題:批大小決定性能延時、容錯粒度,存在不必要的耦合。這就需要進行上下遊解耦,提供“持久化”管道。其實對于單個節點,可以利用計算快照的方法,這樣就可以從任意一個快照重新開機計算,容錯性得到了保證。其中,容錯政策包括:基于資料依賴重算、檢查點回放、持久化流狀态。

走進阿裡雲計算

通過這些算法的分析,我深深地體會到了實時計算正在加速創新、改變世界,我們需要新的計算機系統研究方法。

<b>雲安全感想小談</b><b></b>

其實,在平時的生活中,我們對雲計算的安全問題并沒有足夠的重視,總會感覺這些不應該是我們需要考慮的問題,但是黑客的攻擊确實離我們并不遙遠,我們掌握在黑客手中的個人資訊正在逐年增多。有些人會想通過隻建立區域網路來防止黑客入侵,但實際上實體隔絕并不能絕對安全。

在雲安全方面,資料能力是核心競争力,支撐雲安全的是頂級的威脅情報、頂級的計算能力、頂級的響應和處理能力。其中一種防禦的思路是根據信譽,借助大資料進行分析。

<b>總結</b><b></b>

今天下午的演講有很多幹貨,對于我這個入門學生來說,有些地方仍有很多疑問,将來要通過自己的努力多學習一些這方面的相關知識。

每一個新事物的出現都不是一帆風順的,阿裡雲也是如此。但是阿裡雲面對問題時,一直在努力不斷的尋求解決方法,這些問題也不斷促進雲平台的成熟。如果聽到批評的聲音就放棄,才是最大的失敗。批評是最容易的事情,而塌下心來解決問題并堅持才是王道。隻有堅持走自己的路,不被别人的看法左右,才會有成功。