天天看點

一文看懂HIVE和HBASE的差別

<a href="http://s5.51cto.com/wyfs02/M02/9D/20/wKioL1l6kDyAxVPbAAJJVOLK-0k289.jpg-wh_651x-s_1715709146.jpg" target="_blank"></a>

兩者分别是什麼?

Apache Hive是一個建構在hadoop基礎設施之上的資料倉庫。通過Hive可以使用HQL語言查詢存放在HDFS上的資料。HQL是一種類SQL語言,這種語言最終被轉化為Map/Reduce. 雖然Hive提供了SQL查詢功能,但是Hive不能夠進行互動查詢–因為它隻能夠在Haoop上批量的執行Hadoop。

<a href="http://s4.51cto.com/wyfs02/M00/9D/20/wKiom1l6kEjR_NweAAEYcBxjrRk902.jpg" target="_blank"></a>

Apache HBase是一種Key/Value系統,它運作在HDFS之上。和Hive不一樣,Hbase的能夠在它的資料庫上實時運作,而不是運作MapReduce任務。Hive被分區為表格,表格又被進一步分割為列簇。列簇必須使用schema定義,列簇将某一類型列集合起來(列不要求schema定義)。例如,“message”列簇可能包含:“to”, ”from” “date”, “subject”, 和”body”. 每一個 key/value對在Hbase中被定義為一個cell,每一個key由row-key,列簇、列和時間戳。在Hbase中,行是key/value映射的集合,這個映射通過row-key來唯一辨別。Hbase利用Hadoop的基礎設施,可以利用通用的裝置進行水準的擴充。

兩者的特點

Hive幫助熟悉SQL的人運作MapReduce任務。因為它是JDBC相容的,同時,它也能夠和現存的SQL工具整合在一起。運作Hive查詢會花費很長時間,因為它會預設周遊表中所有的資料。雖然有這樣的缺點,一次周遊的資料量可以通過Hive的分區機制來控制。分區允許在資料集上運作過濾查詢,這些資料集存儲在不同的檔案夾内,查詢的時候隻周遊指定檔案夾(分區)中的資料。這種機制可以用來,例如,隻處理在某一個時間範圍内的檔案,隻要這些檔案名中包括了時間格式。

HBase通過存儲key/value來工作。它支援四種主要的操作:增加或者更新行,檢視一個範圍内的cell,擷取指定的行,删除指定的行、列或者是列的版本。版本資訊用來擷取曆史資料(每一行的曆史資料可以被删除,然後通過Hbase compactions就可以釋放出空間)。雖然HBase包括表格,但是schema僅僅被表格和列簇所要求,列不需要schema。Hbase的表格包括增加/計數功能。

限制

Hive目前不支援更新操作。另外,由于hive在hadoop上運作批量操作,它需要花費很長的時間,通常是幾分鐘到幾個小時才可以擷取到查詢的結果。Hive必須提供預先定義好的schema将檔案和目錄映射到列,并且Hive與ACID不相容。

HBase查詢是通過特定的語言來編寫的,這種語言需要重新學習。類SQL的功能可以通過Apache Phonenix實作,但這是以必須提供schema為代價的。另外,Hbase也并不是相容所有的ACID特性,雖然它支援某些特性。最後但不是最重要的–為了運作Hbase,Zookeeper是必須的,zookeeper是一個用來進行分布式協調的服務,這些服務包括配置服務,維護元資訊和命名空間服務。

應用場景

Hive适合用來對一段時間内的資料進行分析查詢,例如,用來計算趨勢或者網站的日志。Hive不應該用來進行實時的查詢。因為它需要很長時間才可以傳回結果。

Hbase非常适合用來進行大資料的實時查詢。Facebook用Hbase進行消息和實時的分析。它也可以用來統計Facebook的連接配接數。

總結

Hive和Hbase是兩種基于Hadoop的不同技術–Hive是一種類SQL的引擎,并且運作MapReduce任務,Hbase是一種在Hadoop之上的NoSQL 的Key/vale資料庫。當然,這兩種工具是可以同時使用的。就像用Google來搜尋,用FaceBook進行社交一樣,Hive可以用來進行統計查詢,HBase可以用來進行實時查詢,資料也可以從Hive寫到Hbase,設定再從Hbase寫回Hive。

本文作者:佚名

來源:51CTO