王堅院士曾講過一句話讓人印象深刻，他說「雲計算的本質是服務，如果不能将計算資源規模化、大範圍地進行共享，如果不能真正以服務的方式提供，就根本算不上雲計算。」衆所周知，阿裡雲是完全經曆了從 0 到 1，再到 100 的過程，将計算發揮到極緻背後有一個關鍵的服務，那就是彈性計算。
阿裡雲彈性計算是阿裡雲提供的 IaaS 級别雲計算服務，它免去了客戶采購 IT 硬體的前期準備，讓客戶像使用水、電、天然氣等公共資源一樣便捷、高效地使用計算資源，實作計算資源的即開即用和彈性伸縮。在「CSDN 線上峰會 —— 阿裡雲核心技術競争力」上，阿裡雲研究員蔣林泉（花名：雁楊）深入分享了在衆多大規模實踐下百煉成鋼的彈性計算。
前言：彈性計算 More than just 虛拟機
一般而言，大家了解的彈性計算，可能首先會想到是虛拟機、雲伺服器。
但彈性計算除了是衆所周知的 IaaS 的核心——雲伺服器 ECS 之外，還是一個完整的産品家族，而不隻是虛拟機。
彈性計算不僅是阿裡雲的大底座，更是阿裡巴巴集團的大底座，能夠用強大的性能、穩定性、彈性、效率能力來支撐雲上客戶和阿裡雲的雲産品。目前，中國 80% 的創新企業都在使用我們的彈性計算産品，更有 99% 的阿裡雲其他産品是在彈性計算産品之上為客戶提供服務。
對于彈性計算而言，我們所承擔的角色可從三個切面去看待，即制造商、零售（營運）商和服務商：
1、制造商負責設計虛拟機/雲伺服器，以滿足客戶不同的場景需求；
2、零售（營運）商負責将這些執行個體售賣出去，提供按量付費、包年包月、RI 以及搶占式執行個體等多種付費方式，使得售賣形态更加靈活；
3、服務商則提供大規模叢集部署、運維、遷移和彈性伸縮套件産品，實作客戶從 Capex 走向 Opex，讓客戶能夠輕松在時間域和空間域上實作擴容，高效傳遞、部署和運維大規模雲伺服器。
零售商（營運商）：資源池化&彈性
我們先從零售商的角度來了解彈性計算。
對于零售商而言，需要考慮如何将彈性資源賣出去，如何讓客戶使用這種池化後的彈性資源。
零售商主要是讓使用者的伺服器從購買變成租賃形态，可以按照年或者月進行付費，這樣更符合客戶的使用習慣，阿裡雲也提供按使用量，甚至是通過競價閑置資源的方式來進行付費，使得客戶可以享受到線上下無法實作的付費方式來節約成本。
在彈性計算的底層提升供應鍊效率，進行伺服器硬體資源虛拟化以及排程，并且保證非常高的 SLA，來給客戶提供彈性能力。
▐ 狹義彈性：時域次元的彈性
我們先來講講狹義的彈性。所謂狹義彈性就是時域次元的彈性。
如下圖中白色條線，這表示的就是時域的彈性，企業上線新特性、年中促銷或者日常促銷，甚至是業務發展變化很快，背景的計算能力卻往往不能很快跟上。
一般傳統企業的解決方式其實是提前備貨，提前一年甚至三年做預算，進行 IT 資源的儲備。其目标是為了保證在未來一到兩年内，業務都不會因為容量不夠而受損，這也是導緻大量線下傳統企業的日常 CPU 使用率無法達到 5% 的原因。
最糟糕的情況是，當有新業務上線需要大規模容量的時候，IT 資源無法支撐，這樣的沖突就會使得上圖中間的虛線部分越來越大。是以，傳統方式要麼就會造成浪費計算資源和資金，要麼就無法很好地支撐業務的快速增長。
▐ ECS 狹義彈性能力：天下武功，唯快不破
對于狹義彈性而言，更多需要考慮如何讓其跑得更快，當需要資源的時候以最快的速度給到客戶。
目前，阿裡雲雲伺服器 ECS 從開啟伺服器到 SSH 可以登入隻需要 22 秒的時間，同時，機關時間内能夠傳遞的計算力面積，可以做到單客戶、單 Region 5 分鐘 16 萬核 vCPU 的傳遞能力。
▐ 彈性容量自動伸縮最佳實踐
我們來看看一個彈性容量的最佳實踐案例。
首先，企業客戶需要守住自己的一個底座，也就是自己日常流量所需的計算資源，也就是下圖中綠色的線，這部分比較适合使用包年包月或者 RI 的模式，因為價格比較便宜。
而在底座之上的彈性部分則可以使用按量計費或者搶占式的計算資源幫助消除峰值流量，再加上 ESS 的自動化，就能夠實作在不同流量峰谷的時候可以自動包裹業務曲線。
▐ 容量彈性：ESS 彈性自動化 4 種模式
ESS 彈性自動化提供了 4 種模式，即定時模式、動态模式、手動+動态模式和 AI 預測模式：
1、定時模式适用于業務波動的時間和範圍均可準确預測的場景；
2、動态模式适合業務波動的時間和範圍完全不可預測的場景，根據 CPU 和記憶體負載情況，進行自動擴容；
3、手動+動态模式是兩者疊加使用，适合業務波動範圍較小，但時間不可預測的場景；
4、AI 預測模式則根據曆史資源使用量的峰谷和時域特征拟合，通過智能分析預測來做提前擴容，保證在可能的峰值來臨之前，就可以完成資源的準備。
通過多種伸縮模式的靈活組合，能夠幫助企業快速響應計劃内外的業務變化，實作按需取用，降低成本，自動智能運維，甚至是零運維。
▐ 廣義彈性：基礎設施規模全預鋪-空間域的彈性
第二個次元與大家分享廣義彈性。雲，特别是像阿裡雲這麼大規模的雲，很大的一個特征就是基礎設施規模化的全鋪設，也就是說具有了空間域的彈性。
任何一個實體裝置，都有擴容上限。當擴張到上限的時候，就會遇到擴容牆的問題，此時就需要裝置全部遷移到另外一個地域并重新啟動，無法做到跨地域排程。
雲計算則能夠實作跨機房、跨可用區，甚至是跨 Region 的擴容。阿裡雲擁有日不落的資料中心，業務部署到海外也是非常容易的，這就是廣義的彈性——空間域的彈性。
▐ 廣義彈性：空間域上覆寫全球的大規模基礎設施
大家經常會聽到阿裡雲部署了多少個 Region 以及多少個 AZ（Availability Zone，可用區），而 AZ 之間是互聯的，延時也有嚴格的保障，是以使用者可以突破 IDC 的邊界，擴容自己的應用。
▐ 廣義彈性：在 ECS 之上，使用豐富雲服務拓展應用的系統支撐能力的彈性
ECS 會映射到線下的 IDC 伺服器，是以無論是資料庫還是應用，都是購買軟體之後進行傳遞、運維和使用。對多數雲上系統各種 Workload，都可以基于 ECS 用軟體自己搭建。
同時，阿裡雲還提供了大規模的服務化的雲産品，一定會有一款滿足你。比如資料庫、容器、函數、中間件等都已經實作了服務化，客戶不需要去安裝、運維和管理這些軟體，而能夠利用這些軟體的彈性實作開箱即用，且按時付費。而且這些軟體的數量和品質還不斷的進化，是以選擇上雲還能夠為将來拓展應用能力的彈性奠定基礎。
制造商：性能優異，穩如磐石
客戶的應用都在這個雲伺服器上面，是以性能很重要。雲廠商生産了各種不同規格的雲伺服器，通過 IDC、實體機、網絡資源之上的這些作業系統将其切成資源池給到客戶。
這樣就像是工業 4.0，客戶選擇了配置，如核心、CPU、記憶體、磁盤、作業系統等，阿裡雲會将這些資源排程到一台機器上，實時生産出來交給使用者。
阿裡雲提供了封裝形态、規格族、規格大小粒度這樣廣譜覆寫的執行個體矩陣來覆寫使用者在不同場景下對于計算力的需求。
▐ 制造商成功的本分：穩定性&性能
中國是個制造業大國，而制造商成功的本分其實就是穩定性和性能。阿裡雲具有計算、網絡、存儲性能的穩定性，AZ 内、AZ 間、Region 間以及網絡性能的穩定性。
此外，加上飛天作業系統在計算、存儲、網絡 3 個底層技術上的不斷投入，以及大規模排程系統，結合底層硬體不斷進行研發疊代，實作高性能和成本紅利。
▐ 雲的穩定性
雲的穩定性主要挑戰在兩個方面：當機遷移業務恢複，磁盤損壞不丢資料；硬體批量維修、過保，保證客戶對過保無感。
阿裡雲将運維和虛拟化解耦，可以做到使用者無感的實體硬體替換，對客戶業務的連續性打擾降低到非常小的程度，這正是雲上核心的穩定性邏輯。
彈性計算的“二次去 I”：用 x86 硬體，挑戰小機型穩定性
下圖中資料來自于各廠商官網，阿裡雲 ECS 單執行個體可用性 SLA 可以達到 99.975%，跨可用區多執行個體可用性 SLA 可達到 99.995%。
标題中的“二次去 I”指的是阿裡雲在服務客戶的過程中發現客戶單執行個體對穩定性要求也非常高。
在“第一次去 IOE”的時候，用的是應用層的分布式技術來解決 x86 的穩定性問題。而在彈性計算領域，則是用基礎層的能力去解決 x86 的穩定性問題，目标是用 x86 的硬體做到和小型機一樣的穩定性，這就是“二次去 I”。客戶的技術能力各不相同，有很大一部分客戶對單機的穩定性有非常高的依賴，無法做應用層的容災，這樣嚴苛的需求就推動阿裡雲的服務要達到小型機的穩定性，阿裡雲的基礎沉澱了多年，才得以實作這樣的業界領先的 SLA。
彈性計算的雲盤快存儲“二次去 E”：業界主流廠商雲盤可靠性 SLO 一覽
阿裡雲雲盤的可靠性能夠做到“9 個 9”，也是目前業界領先的，需要非常嚴謹和先進的技術架構來保障。通過分布式的基于 x86 的軟體定義存儲，替代掉原來商業非常昂貴的存儲，并達到了存儲的高可靠性。
80% 的當機，都來自 IDC 電力、IDC 網絡和伺服器系統三類原因
阿裡雲是如何做到上述能力的呢？其實對于伺服器而言，80%的當機，都來自 IDC 電力、IDC 網絡和伺服器系統三類原因。接下來針對于這三個原因談談阿裡雲所做的事情。
強健的電力，強健的網絡帶來強健的 IDC 基礎設施
IDC 掉電的新聞中經常出現，屬于高頻事件。阿裡雲在 IDC 的管理上非常嚴格，擁有高可用電力架構、網絡架構以及 3+N 多線 BGP 接入，這也源于多年來的經驗和教訓，才形成背後成熟的管理體系和技術體系。阿裡雲幫助客戶消除掉了 IDC 機房的大部分電力、網絡的可用性威脅。
**
備援架構**
舉一個例子，阿裡雲在伺服器和接入交換機的架構上，存儲、網絡和雲盤等都是通過網卡虛拟化出來的。伺服器上的電力、網絡，都是雙線接入的。通過自研技術，在伺服器、飛天作業系統中實作實體網絡的路由切換。如果這個地方是個單點，沒有雙路就經常會出現各種各樣的問題。阿裡雲選擇在軟體側實作備援的網絡線路路由排程。
批量運維變更故障規避技術平台
既然是大規模的雲，技術疊代和産品更新背後就會有大量的系統釋出和變更。如何讓其變得更穩定？阿裡雲背後依賴于非常高精尖的熱遷移技術，95% 以上的熱遷移，對所有使用者都是無感的。
**玄機大腦的異常預測&排程
飛天作業系統中的玄機大腦能夠對于異常進行預測，做提前的熱遷移，實作對客戶服務的穩定性。
**核心部件的故障預測：準确率和召回率高達 99%
阿裡雲核心部件的故障預測的準确率和召回率高達 99%，這背後來自于阿裡巴巴這麼多年的技術積累。阿裡巴巴是一家資料公司，擁有 10 年百萬級的伺服器打标的高品質資料，再結合達摩院科學家的合作，通過算法訓練讓這些資料産生價值，提前預測硬體的健康程度，再結合熱遷移的能力，實作服務的穩定性。
成果：70% 的使用者可感覺故障被消除&規避
目前，阿裡雲由于硬體産生的問題中的 70% 都是客戶無感的。很多使用者使用雲伺服器已經大約 2 到 3 年的時間了，底層的硬體可能已經更換了 2 至 3 次，但是自己卻毫無感覺，也沒有重新開機過。這就是使用 x86 的硬體實作了小型機的穩定性。
為何彈性計算如此看重穩定性：進化的力量
阿裡雲之是以這麼看重穩定性并做了大量的投入，主要是因為技術進化的力量。雙 11 一直在考驗阿裡巴巴集團的系統，不斷發現小問題并快速逐一修複。
此外，還有一個原因就是客戶群體的差異，中美的雲計算成熟度存在一些差異，在北美或者歐洲，IT 客戶群體的能力相對成熟，可以在應用上做容災，對服務穩定性的依賴相對較小，而國内的 IT 客戶群體還不夠成熟，很多客戶強依賴單機的穩定性，這就讓阿裡雲必須重視穩定性的提升。
阿裡雲帶着一個夢想，就是能夠通過努力，降低中國企業創業的門檻，減小企業數字化轉型的阻力，這些都是驅動彈性計算不斷進化的驅動力。
▐ 雲的優異性能
講完穩定性，我們來講講性能。
業界領先的 E2E 性能
虛拟化使得 IT 業務的靈活度、互動效率大大提升，而帶來的問題其實就是虛拟化的損耗，這就需要從技術上不斷進步。阿裡雲彈性計算具有業界領先的 E2E 性能，ECS 第六代相比第五代在性能方面在 MySQL、nginx、Redis 等場景下都有了大幅度提升，并且綜合性能超越市場同類主售産品。
ECS 性能更強，成本更低的秘密——全鍊路自研底層技術
無論是神龍、盤古、洛神，還是阿裡自研的 IDC 網絡和伺服器，這些全鍊路的融合以及軟硬結合，會持續地進行疊代，将技術紅利提供給客戶和市場。
高性能背後的自研技術：神龍計算平台
阿裡自研的神龍計算平台在 2017 年釋出第一代産品，并且每年都在疊代，現在給客戶提供服務的是第二代神龍計算平台。第三代馬上就會開放給客戶，目前處于邀測過程中。
高性能背後的自研技術：神龍、盤古 2.0，實體網絡的完美結合
阿裡雲是第一個能夠把 RDMA 真正用在雲上的雲廠商，這是因為要解決 RDMA 的規模化問題，存在着大量的挑戰。為了享受 RDMA 的技術紅利，則必須要在軟硬體以及架構上進行大量适配，才能夠保證它能夠大規模環境下穩定運作。
高性能背後的自研技術：玄機大腦的性能排程
在高性能的背後，也需要有強大的排程系統，通過玄機大腦和達摩院進行資料化分析，進行大規模排程，讓購買小規格執行個體的客戶也能享受到穩定的服務，甚至超出基線的性能。
全球最極端場景對性能、穩定性的打磨
舉一個極端場景的例子，去年雙 11 中阿裡巴巴的全部業務都已經上雲了，峰值會到達無法想象的量級。在平時演練中，會毫無預兆的人為制造各種問題，例如斷電、交換機故障、系統故障等場景，彈性計算團隊需要在最短的時間内解決出現的問題，這樣的考驗對于穩定性的打磨是世界獨一無二的。
服務商：雲上安全感到效率幸福感
除了上述談到的能力之外，使用者上雲之後還需要傳遞、部署、配置、運維的服務。就像是開車一樣，出了性能好，更需要這種自動駕駛、定速巡航、精準操控等能力輔助。
服務商：叢集複雜度和規模變化，對傳遞、部署、配置、運維效率要求産生質的變化
上雲企業的大小規模不一樣，企業規模小的時候，使用的資源數量非常少，自動化要求、管理複雜度、運用複雜度都會很低。在規模變大之後，企業會劃分多個部門，具有多個服務和應用，甚至橫跨多個地域。海量的叢集複雜度、傳遞複雜度、伺服器管理配置的複雜度都會提升，需求就會有質的變化。
服務商：部署&運維自動化編排，上雲用雲自動化駕駛
在雲上，為了應對以上挑戰，提供了兩套配套方案，部署集+ROS 資源編排，和雲助手+OOS 運維編排，分别解決規模化、自動化部署配置的能力，還有自動化運維的能力，結合穩定的計算執行個體、時域和空間域的彈性，以及原子 API 和透明監控事件，進而實作了雲上完整彈性。
ROS：用部署編排自動化，輕松傳遞單元化叢集
舉個例子，2020 年 2 月疫情期間，釘釘使用 ROS 進行大規模多叢集擴容。保障擴容的順利完成，首先要有資源擴容，其次要有空間進行擴容，并且還走向海外，需要在海外為其擴容。叢集擴容規模非常大，需要大量的時間，是以阿裡雲通過 ROS 幫助釘釘進行叢集擴容，效率提升了 100 倍。而應對如此快速增長的 DAU，背後的彈性能力、快速部署能力、自動化能力都缺一不可。
OOS：運維編排自動化，雲上輕松實作大規模叢集高效釋出和運維
這裡的例子是一個 1.5 億客戶的大型 App 後端大規模叢集釋出運維編排，通過 OOS 編排模闆去自動重新整理資源，幫助其将單次完整線上釋出時間從 150 分鐘縮短到 10 分鐘，并且不需要人工幹預和 0 誤操作。使得釋出頻率從每周一次提升到了每天一次，真正地做到了基礎設施級别的深度持續釋出，使得業務創新效率大幅度提升。
規模&進化：寶劍鋒從磨砺出
如下圖所示的曲線表明規模很重要，規模變大之後，單台伺服器的穩定性、彈性、性能大大提升，研發成本也會急劇下降，而阿裡雲背後強大的技術團隊，才讓 ECS 有了極緻的體驗。
彈性計算和阿裡雲同一年誕生，如今在規模方面已經成為中國乃至亞太的第一，世界第三。彈性計算團隊從建立開始，與客戶一起成長了 11 年的時間。
小結：規模化實踐驅動的雲計算的優勢會不斷擴大
大規模實踐鍛造而成的彈性計算，驅動着雲計算市場不斷地發展壯大，同時規模化實踐驅動的雲計算由于其優勢，規模也在不斷擴大。
而所有這些競争力都是建構不同行業的國内外大客戶、嚴苛的雲産品内部客戶、龐大的集團内部客戶的大規模需求驅動之上；建構在阿裡雲與集團資料和技術積累的肩膀之上；建構在彈性計算這十年中訓練出來的強大技術團隊，以及在這十年間不斷湧現的技術創新之上。
演講者簡介：蔣林泉是阿裡巴巴集團研究員，阿裡雲彈性計算負責人。過去幾年他帶領團隊，在大規模客戶場景的驅動下，對平台技術進行架構更新，讓 ECS 的整體産品彈性、性能、穩定性以及功能體驗都突飛猛進，彈性計算産品體系在業界具備了很強的競争力。在負責彈性計算之前，他還曾經擔任過阿裡雲平台架構師，阿裡雲專有雲總架構師，是雲計算領域最優秀的架構師之一。
【END】