天天看點

docker安裝cloudera版本的hadoop

官網:https://hub.docker.com/r/cloudera/quickstart/

前提條件:機器已安裝好docker

1、執行以下指令,擷取docker版hadoop:

docker pull cloudera/quickstart:latest

2、啟動Hadoop:

docker run --privileged=true --hostname=quickstart.cloudera -p 8020:8020 -p 7180:7180 -p 21050:21050 -p 50070:50070 -p 50075:50075 -p 50010:50010 -p 50020:50020 -p 8888:8888 -t -i docker.io/cloudera/quickstart /usr/bin/docker-quickstart

3、在docker中,啟動CM:

/home/cloudera/cloudera-manager --force --express

4、啟動ntpd服務

service ntpd start

5、連接配接docker背景服務:

docker attach [CONTAINER_ID]

6、問題:

NameNode啟動失敗,/var/lib/hadoop-hdfs/cache/hdfs/dfs/name/current/檔案無法删除(怎麼删除都删不了),

進入/var/lib/hadoop-hdfs/cache/hdfs/dfs/name/current/目錄後發現檔案屬性是?

-rw-r--r-- 1 hdfs hdfs    127514 Jul 14  2020 edits_0000000000000005242-0000000000000006071

?????????? ? ?    ?            ?            ? edits_inprogress_0000000000000000001

?????????? ? ?    ?            ?            ? fsimage_0000000000000000000

?????????? ? ?    ?            ?            ? fsimage_0000000000000000000.md5

解決方法:

需要修改核心配置檔案hdfs-site.xml檔案或在cm中修改,重新配置設定一個新的路徑,比如/var/lib/hadoop-hdfs/cache/hdfs/dfs/name-new。

重新在CM中啟動叢集即可。

叢集版待後續更新。。。