Hadoop高可用叢集搭建（接完全分布式）

Hadoop高可用叢集搭建

• 配置 HDFS-HA 叢集
• • 配置core-site.xml
  • 配置hdfs-site.xml
• 啟動 HDFS-HA 叢集
• 配置 HDFS-HA 自動故障轉移
• YARN-HA配置
• • 配置yarn-site.xml
  • 啟動yarn

在完全分布式基礎上繼續配置，hadoop叢集完全分布式搭建連接配接： https://blog.csdn.net/weixin_42487460/article/details/107169638

配置 HDFS-HA 叢集

配置core-site.xml

<configuration>
<!-- 指定HDFS中NameNode的位址 -->
	<property>
		<name>fs.defaultFS</name>
		<value>hdfs://mycluster</value>
	</property>

 <!-- 指定hadoop運作時産生檔案的存儲目錄 -->
	 <property>
		<name>hadoop.tmp.dir</name>
		<value>/opt/soft/hadoop260/data/tmp</value>
	 </property>
	 
	 <property>
       <name>ha.zookeeper.quorum</name>
       <value>hadoop1:2181,hadoop2:2181,hadoop3:2181</value>
	 </property>
	 <property>
        <name>hadoop.proxyuser.root.hosts</name>
        <value>*</value>
	 </property>
	 <property>
	      <name>hadoop.proxyuser.root.groups</name>
	      <value>*</value>
	 </property>
</configuration>

           

配置hdfs-site.xml

<configuration>
<!-- 完全分布式叢集名稱 -->
	<property>
        <name>dfs.nameservices</name>
        <value>mycluster</value>
	</property>

<!-- 叢集中 NameNode 節點都有哪些,這裡是 nn1 和 nn2-->
	<property>
        <name>dfs.ha.namenodes.mycluster</name>
        <value>nn1,nn2</value>
	</property>

<!-- nn1 的 RPC 通信位址 -->
	<property>
        <name>dfs.namenode.rpc-address.mycluster.nn1</name>
        <value>hadoop1:9000</value>
	</property>

<!-- nn2 的 RPC 通信位址 -->
	<property>
	    <name>dfs.namenode.rpc-address.mycluster.nn2</name>
	    <value>hadoop2:9000</value>
	</property>

<!-- nn1 的 http 通信位址 -->
	<property>
	    <name>dfs.namenode.http-address.mycluster.nn1</name>
	    <value>hadoop1:50070</value>
	</property>

<!-- nn2 的 http 通信位址 -->
	<property>
	     <name>dfs.namenode.http-address.mycluster.nn2</name>
	     <value>hadoop2:50070</value>
	</property>

<!-- 指定 NameNode 中繼資料在 JournalNode 上的存放位置 -->
	<property>
	    <name>dfs.namenode.shared.edits.dir</name>
	    <value>qjournal://hadoop1:8485;hadoop2:8485;hadoop3:8485/mycluster</value>
	</property>

<!-- 配置隔離機制，即同一時刻隻能有一台伺服器對外響應 -->
	<property>
        <name>dfs.ha.fencing.methods</name>
        <value>
        sshfence
        shell(/bin/true)
        </value>
	</property>

<!-- 使用隔離機制時需要 ssh 無秘鑰登入-->
	<property>
	     <name>dfs.ha.fencing.ssh.private-key-files</name>
	     <value>/root/.ssh/id_rsa</value>
	</property>

<!-- 聲明 journalnode 伺服器存儲目錄-->
	<property>
	     <name>dfs.journalnode.edits.dir</name>
	     <value>/opt/soft/hadoop260/data/jn</value>
	</property>

<!-- 關閉權限檢查-->
	<property>
	      <name>dfs.permissions.enable</name>
	      <value>false</value>
	</property>

<!-- 通路代理類：client，mycluster，active 配置失敗自動切換實作方式-->
	<property>
	      <name>dfs.client.failover.proxy.provider.mycluster</name>
	      <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailover ProxyProvider</value>
	</property>
	<property>
		  <name>dfs.replication</name>
		  <value>3</value>
	</property>
	<property>
		 <name>dfs.namenode.secondary.http-address</name>
		 <value>hadoop3:50090</value>
	</property>
	<property>
	     <name>dfs.ha.automatic-failover.enabled</name>
	     <value>true</value>
	</property>
</configuration>
           

啟動 HDFS-HA 叢集

1. 在各個 JournalNode 節點上，輸入以下指令啟動 journalnode 服務：

   hadoop-daemon.sh start journalnode

2. 在[nn1]上,即hadoop1上，對其進行格式化，并啟動

   hdfs namenode-format

   hadoop-daemon.sh start namenode

3. 在[nn2]上，即hadoop2上，同步 nn1 的中繼資料資訊

   hdfs namenode -bootstrapStandby

4. 啟動[nn2]

   hadoop-daemon.sh start namenode

5. 檢視web頁面顯示，此時為兩個Standby頁面
6. 在[nn1]上，啟動所有 datanode

   hadoop-daemons.sh start datanode

7. 将[nn1]切換為 Active

   hdfs haadmin -transitionToActive nn1

8. 網頁檢查是否為Active

配置 HDFS-HA 自動故障轉移

1. 關閉所有HDFS服務

   stop-dfs.sh

2. 啟動Zookeeper叢集

   zkServer.shstart

3. 初始化HA在Zookeeper中狀态

   hdfs zkfc -formatZK

4. 啟動HDFS服務

   start-dfs.sh

5. 在各個 NameNode 節點上啟動 DFSZKFailoverController，先在哪台機器 啟動，哪個機器的 NameNode 就是 ActiveNameNode

   hadoop-daemon.sh start zkfc

6. 驗證

   将 ActiveNameNode 程序 kill

   kill-9namenode 的程序 id ，hadoop2變為Active NameNode

   

YARN-HA配置

配置yarn-site.xml

<configuration>
<property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
</property>

<!--啟用 resourcemanagerha-->
<property>
        <name>yarn.resourcemanager.ha.enabled</name>
        <value>true</value>
</property>

<!--聲明兩台 resourcemanager 的位址-->
<property>
        <name>yarn.resourcemanager.cluster-id</name>
        <value>cluster-yarn1</value>
</property>

<property>
        <name>yarn.resourcemanager.ha.rm-ids</name>
        <value>rm1,rm2</value>
</property>
<property>
        <name>yarn.resourcemanager.hostname.rm1</name>
        <value>hadoop1</value>
</property>
<property>
        <name>yarn.resourcemanager.hostname.rm2</name>
        <value>hadoop2</value>
</property>

<!--指定 zookeeper 叢集的位址-->
<property>
        <name>yarn.resourcemanager.zk-address</name>
        <value>hadoop1:2181,hadoop2:2181,hadoop3:2181</value>
</property>

<!--啟用自動恢複-->
<property>
        <name>yarn.resourcemanager.recovery.enabled</name>
        <value>true</value>
</property>
<!--指定 resourcemanager 的狀态資訊存儲在 zookeeper 叢集-->
<property>
        <name>yarn.resourcemanager.store.class</name>
        <value>org.apache.hadoop.yarn.server.resourcemanager.recovery.ZKRMStateStore</value>
</property>
</configuration>
           

啟動yarn

start-yarn.sh

 

 

所有配置完成，啟動jps程序如下