天天看點

【Hadoop】 Hadoop的預設快大小是多少? 為什麼要設定這麼大

預設塊大小: 

Hadoop 2.7.2 版本之前 預設64MB, 2.7.3及以後都是預設128MB 

塊大小設定原因

  1. hdfs的塊設定太小,會增加尋址時間,程式一直在找塊的開始位置,而且NameNode需要大量記憶體來存儲中繼資料,不可取
  2. 如果塊設定的他打,從磁盤傳輸的時間會明顯大于定位這個塊開始位置所需的時間,導緻程式在處理這些資料時,會非常慢
  3. 如果尋址時間為10ms, 而傳輸速率為100MB/S, 為了使尋址時間僅占傳輸時間的1%, 需要将快的大小約為100MB ,預設的塊大小就是128mb

塊的大小: 100ms*100*100MB/s = 100MB 

繼續閱讀