天天看點

雲HBase叢集的規劃

概述

在服務客戶的時候,經常會被問到,我該選擇什麼配置的HBase呢?今天我們就來好好談談這個問題,希望能說清楚

基本架構

目前雲HBase的基本架構為:

雲HBase叢集的規劃

從架構圖中,可以看出Master是主備的,且不存任何業務資料的;core節點至少2台,第一個節點為了節約節點,部署了一個zk,Core節點可以一直添加到100或者500個節點左右。

Master節點選擇

Master節點的規格:2cpu4g起步,主要看叢集的規格。參考以下的配置

core的規模 master選擇
<=4台 2cpu4g
4台 4cpu8g
10 8cpu16g
20 16cpu32g
50 16cpu64g

Core節點選擇

core階段選擇:4cpu8g起步,最大32cpu128g

以1KB為準:

QPS core的個數及選擇
0 ~ 1w 2台 4cpu8g
1w ~ 10w >=2 8cpu32g 可以按照每台2w算,批量除外
10w ~5000w >=2 16cpu64g 可以按照每台4w算,批量除外

由于每個節點挂4T的存儲,如果QPS較少,存儲較多。可以選擇多台4cpu16g的規格或者8cpu32g

存儲媒體選擇

對于存儲,我們目前有三個媒體,第一個是SSD媒體,第二是高效媒體(使用SSD與SATA的混合),第三個媒體是OSS,也就是直接基于我們的OSS服務。這個媒體的特點就是:最熱、一般熱、溫、冷的資料

冷熱程度 媒體類型 提供方式 業務類型
高性能 SSD雲盤 HDFS方式,挂盤,包量 線上業務,延遲要求低,99.9 80ms以下
高效能 高效雲盤 線上業務,延遲要求一般,99.9 200ms以下
冷資料 OSS 接口方式提供,按需計費 準線上業務,主要存儲冷資料,特殊的壓縮算法、高壓縮比例

後續的發展

  • 目前OSS還沒有上線,預計2018年6-7月上線,上線後完全彈性計費
  • 針對SSD及高效的存儲,目前還是采取磁盤的方式挂載,可以擴容及縮容;後續會提供完全彈性的SSD及高性能存儲。 也就是本地沒有HDFS。
HBase技術交流社群

- 阿裡官方“HBase生态+Spark社群大群”點選加入:

https://dwz.cn/Fvqv066s