天天看点

docker安装cloudera版本的hadoop

官网:https://hub.docker.com/r/cloudera/quickstart/

前提条件:机器已安装好docker

1、执行以下命令,获取docker版hadoop:

docker pull cloudera/quickstart:latest

2、启动Hadoop:

docker run --privileged=true --hostname=quickstart.cloudera -p 8020:8020 -p 7180:7180 -p 21050:21050 -p 50070:50070 -p 50075:50075 -p 50010:50010 -p 50020:50020 -p 8888:8888 -t -i docker.io/cloudera/quickstart /usr/bin/docker-quickstart

3、在docker中,启动CM:

/home/cloudera/cloudera-manager --force --express

4、启动ntpd服务

service ntpd start

5、连接docker后台服务:

docker attach [CONTAINER_ID]

6、问题:

NameNode启动失败,/var/lib/hadoop-hdfs/cache/hdfs/dfs/name/current/文件无法删除(怎么删除都删不了),

进入/var/lib/hadoop-hdfs/cache/hdfs/dfs/name/current/目录后发现文件属性是?

-rw-r--r-- 1 hdfs hdfs    127514 Jul 14  2020 edits_0000000000000005242-0000000000000006071

?????????? ? ?    ?            ?            ? edits_inprogress_0000000000000000001

?????????? ? ?    ?            ?            ? fsimage_0000000000000000000

?????????? ? ?    ?            ?            ? fsimage_0000000000000000000.md5

解决方法:

需要修改核心配置文件hdfs-site.xml文件或在cm中修改,重新分配一个新的路径,比如/var/lib/hadoop-hdfs/cache/hdfs/dfs/name-new。

重新在CM中启动集群即可。

集群版待后续更新。。。