2023學(xué)年完整公開課版Hadoop的HA搭建

Hadoop的HA搭建2知識(shí)目標(biāo)Hadoop的HA搭建01能力目標(biāo)了解Hadoop的HA搭建02學(xué)習(xí)目標(biāo)3目錄01Hadoop集群安裝03啟動(dòng)集群02HadoopHA集群的初始化解壓安裝包4進(jìn)入安裝目錄/usr/local/install目錄下，命令如下：[root@master~]#cd/usr/local/install/解壓該目錄下的Hadoop的安裝包。命令如下：[root@master~]#tar-zxvfhadoop-2.6.5.tar.gz解壓完成之后，會(huì)在該目錄下生成一個(gè)名為hadoop-2.6.5的文件。如圖1所示：配置環(huán)境變量5進(jìn)入到hadoop的安裝包中，命令如下：[root@master~]#cdhadoop-2.6.5獲取hadoop的當(dāng)前路徑，命令如下：[root@master~]#pwd結(jié)果如圖2所示：6配置環(huán)境變量復(fù)制該路徑，然后通過命令編輯配置文件，命令如下：[root@master~]#vi/etc/profile進(jìn)入該文件的編輯頁面之后，跳轉(zhuǎn)到最底部，輸入i進(jìn)入編輯模式，添加Hadoop的環(huán)境變量，在系統(tǒng)環(huán)境變量PATH之后添加Hadoop的變量，最終配置如下：exportHADOOP_HOME=/usr/local/install/hadoop-2.6.5exportPATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$HIVE_HOME/bin修改core-site.xml文件7進(jìn)入到etc/hadoop/目錄下，并編輯core-site.xml文件，命令如下：[root@master~]#cdetc/hadoop/[root@master~]#vicore-site.xml進(jìn)入core-site.xml文件之后，按i進(jìn)入編輯模式，在<configuration></configuration>之間添加如下配置項(xiàng)：

<!--指定hdfs的nameservice為myha01--><property><name>fs.defaultFS</name><value>hdfs://myha01/</value></property><!--指定hadoop臨時(shí)目錄--><property><name>hadoop.tmp.dir</name><value>/home/hadoop/data/hadoopdata/</value>

修改core-site.xml文件8</property><!--指定zookeeper地址--><property><name>ha.zookeeper.quorum</name><value>hadoop1:2181,hadoop2:2181,hadoop3:2181,hadoop4:2181</value></property><!--hadoop鏈接zookeeper的超時(shí)時(shí)長設(shè)置--><property><name>ha.zookeeper.session-timeout.ms</name><value>1000</value><description>ms</description></property>該配置是設(shè)置偽分布式節(jié)點(diǎn)的主節(jié)點(diǎn)的地址，由于已經(jīng)配置了主機(jī)名和ip地址映射，所以可以直接使用主機(jī)名來映射。配置完成之后，保存并退出。

修改hadoop-env.sh文件9通過命令編輯hadoop-env.sh文件，命令如下：[root@master~]#vihadoop-env.sh進(jìn)入該文件之后，找到exportJAVA_HOME=${JAVA_HOME}這一項(xiàng)，將${JAVA_HOME}修改為本節(jié)點(diǎn)Jdk的安裝路徑，本次實(shí)驗(yàn)文檔制作中的Jdk安裝在/usr/local/apps/目錄下，請(qǐng)根據(jù)實(shí)際安裝的路徑進(jìn)行調(diào)整。結(jié)果如圖4所示：修改hdfs-site.xml文件10使用文檔編輯命令修改hdfs-site.xml文件，命令如下：[root@master~]#vihdfs-site.xml在<configuration></configuration>之間添加以下配置內(nèi)容

<!--指定副本數(shù)--><property><name>dfs.replication</name><value>2</value></property><!--配置namenode和datanode的工作目錄-數(shù)據(jù)存儲(chǔ)目錄--><property>

修改hdfs-site.xml文件11<name>.dir</name><value>/home/hadoop/data/hadoopdata/dfs/name</value></property><property><name>dfs.datanode.data.dir</name><value>/home/hadoop/data/hadoopdata/dfs/data</value></property>

修改hdfs-site.xml文件12<!--啟用webhdfs--><property><name>dfs.webhdfs.enabled</name><value>true</value></property><!--指定hdfs的nameservice為myha01，需要和core-site.xml中的保持一致

nodes.[nameserviceid]為在nameservice中的每一個(gè)NameNode設(shè)置唯一標(biāo)示符。

修改hdfs-site.xml文件13配置一個(gè)逗號(hào)分隔的NameNodeID列表。這將是被DataNode識(shí)別為所有的NameNode。例如，如果使用"myha01"作為nameserviceID，并且使用"nn1"和"nn2"作為NameNodes標(biāo)示符

--><property><name>services</name><value>myha01</value></property><!--myha01下面有兩個(gè)NameNode，分別是nn1，nn2-->

修改hdfs-site.xml文件14<property><name>nodes.myha01</name><value>nn1,nn2</value></property><!--nn1的RPC通信地址--><property><name>node.rpc-address.myha01.nn1</name><value>hadoop1:9000</value></property>

修改hdfs-site.xml文件15<!--nn1的http通信地址--><property><name>node.http-address.myha01.nn1</name><value>hadoop1:50070</value></property><!--nn2的RPC通信地址--><property><name>node.rpc-address.myha01.nn2</name><value>hadoop2:9000</value>

修改hdfs-site.xml文件16</property><!--nn2的http通信地址--><property><name>node.http-address.myha01.nn2</name><value>hadoop2:50070</value></property><!--指定NameNode的edits元數(shù)據(jù)的共享存儲(chǔ)位置。也就是JournalNode列表該url的配置格式：qjournal://host1:port1;host2:port2;host3:port3/journalId

修改hdfs-site.xml文件17journalId推薦使用nameservice，默認(rèn)端口號(hào)是：8485--><property><name>node.shared.edits.dir</name><value>qjournal://hadoop1:8485;hadoop2:8485;hadoop3:8485/myha01</value></property><!--指定JournalNode在本地磁盤存放數(shù)據(jù)的位置--><property><name>dfs.journalnode.edits.dir</name><value>/home/hadoop/data/journaldata</value>

修改hdfs-site.xml文件18</property><!--開啟NameNode失敗自動(dòng)切換--><property><name>dfs.ha.automatic-failover.enabled</name><value>true</value></property><!--配置失敗自動(dòng)切換實(shí)現(xiàn)方式--><property><name>vider.myha01</name>修改hdfs-site.xml文件19<value>node.ha.ConfiguredFailoverProxyProvider</value></property><!--配置隔離機(jī)制方法，多個(gè)機(jī)制用換行分割，即每個(gè)機(jī)制暫用一行--><property><name>dfs.ha.fencing.methods</name><value>sshfenceshell(/bin/true)</value>

修改hdfs-site.xml文件20</property><!--使用sshfence隔離機(jī)制時(shí)需要ssh免登陸--><property><name>dfs.ha.fencing.ssh.private-key-files</name><value>/home/hadoop/.ssh/id_rsa</value></property><!--配置sshfence隔離機(jī)制超時(shí)時(shí)間--><property><name>dfs.ha.fencing.ssh.connect-timeout</name><value>30000</value></property>

修改hdfs-site.xml文件21<property><name>ha.failover-controller.cli-check.rpc-timeout.ms</name><value>60000</value></property>該內(nèi)容是配置hdfs文件數(shù)據(jù)節(jié)點(diǎn)以及副本數(shù)量。配置完成之后，保存并退出。

修改mapred-site.xml文件22復(fù)制該目錄下的mapred-site.xml.template文件并改名為mapred-site.xml，使用文檔編輯命令修改hdfs-site.xml文件，命令如下：[root@master~]#cpmapred-site.xml.templatemapred-site.xml[root@master~]#vimapred-site.xml修改mapred-site.xml文件23<!--指定mr框架為yarn方式--><property><name></name><value>yarn</value></property><!--指定mapreducejobhistory地址--><property>

修改mapred-site.xml文件24<name>mapreduce.jobhistory.address</name><value>hadoop1:10020</value></property><!--任務(wù)歷史服務(wù)器的web地址--><property><name>mapreduce.jobhistory.webapp.address</name><value>hadoop1:19888</value></property>

修改yarn-site.xml文件25使用文檔編輯命令修改yarn-site.xml文件，命令如下：[root@master~]#viyarn-site.xml在<configuration></configuration>之間添加以下配置內(nèi)容

<!--開啟RM高可用--><property><name>yarn.resourcemanager.ha.enabled</name>修改yarn-site.xml文件26<value>true</value></property><!--指定RM的clusterid--><property><name>yarn.resourcemanager.cluster-id</name><value>yrc</value>

修改yarn-site.xml文件27</property><!--指定RM的名字--><property><name>yarn.resourcemanager.ha.rm-ids</name><value>rm1,rm2</value></property>

修改yarn-site.xml文件28<!--分別指定RM的地址--><property><name>yarn.resourcemanager.hostname.rm1</name><value>hadoop3</value></property><property><name>yarn.resourcemanager.hostname.rm2</name><value>hadoop4</value></property>

修改yarn-site.xml文件29<!--指定zk集群地址--><property><name>yarn.resourcemanager.zk-address</name><value>hadoop1:2181,hadoop2:2181,hadoop3:2181</value></property><property><name>yarn.nodemanager.aux-services</name><value>mapreduce_shuffle</value></property>

修改yarn-site.xml文件30<property><name>yarn.log-aggregation-enable</name><value>true</value></property><property><name>yarn.log-aggregation.retain-seconds</name><value>86400</value></property><!--啟用自動(dòng)恢復(fù)-->

修改yarn-site.xml文件31<property><name>yarn.resourcemanager.recovery.enabled</name><value>true</value></property><!--制定resourcemanager的狀態(tài)信息存儲(chǔ)在zookeeper集群上--><property><name>yarn.resourcemanager.store.class</name><value>org.apache.hadoop.yarn.server.resourcemanager.recovery.ZKRMStateStore</value></property>

修改selves文件32使用文檔編輯命令修改selves文件，命令如下：[root@master~]#viselves添加以下配置內(nèi)容hadoop1hadoop2hadoop3將hadoop安裝包分發(fā)到其他集群節(jié)點(diǎn)33重點(diǎn)強(qiáng)調(diào)：每臺(tái)服務(wù)器中的hadoop安裝包的目錄必須一致，安裝包的配置信息還必須保持一致（pwd是路徑）

scp-rhadoop-2.6.5/hadoop2:$PWDscp-rhadoop-2.6.5/hadoop3:$PWDscp-rhadoop-2.6.5/hadoop4:$PWD啟動(dòng)ZooKeeper34啟動(dòng)4臺(tái)服務(wù)器上的zookeeper服務(wù)

hadoop1[hadoop@hadoop1conf]$zkServer.shstartZooKeeperJMXenabledbydefaultUsingconfig:/home/hadoop/apps/zookeeper-3.4.10/bin/../conf/zoo.cfgStartingzookeeper...STARTED[hadoop@hadoop1conf]$jpsJpsQuorumPeerMain啟動(dòng)ZooKeeper35hadoop2[hadoop@hadoop2conf]$zkServer.shstartZooKeeperJMXenabledbydefaultUsingconfig:/home/hadoop/apps/zookeeper-3.4.10/bin/../conf/zoo.cfgStartingzookeeper...STARTED啟動(dòng)ZooKeeper36hadoop3[hadoop@hadoop3conf]$zkServer.shstartZooKeeperJMXenabledbydefaultUsingconfig:/home/hadoop/apps/zookeeper-3.4.10/bin/../conf/zoo.cfgStartingzookeeper...STARTED啟動(dòng)ZooKeeper37hadoop4[hadoop@hadoop4conf]$zkServer.shstartZooKeeperJMXenabledbydefaultUsingconfig:/home/hadoop/apps/zookeeper-3.4.10/bin/../conf/zoo.cfgStartingzookeeper...STARTED配置的各個(gè)journalnode節(jié)點(diǎn)啟動(dòng)該進(jìn)程38按照之前的規(guī)劃，我的是在hadoop1、hadoop2、hadoop3上進(jìn)行啟動(dòng)，啟動(dòng)命令如下hadoop1[hadoop@hadoop1conf]$hadoop-daemon.shstartjournalnodestartingjournalnode,loggingto/home/hadoop/apps/hadoop-2.7.5/logs/hadoop-hadoop-journalnode-hadoop1.out配置的各個(gè)journalnode節(jié)點(diǎn)啟動(dòng)該進(jìn)程39hadoop2[hadoop@hadoop2conf]$hadoop-daemon.shstartjournalnodestartingjournalnode,loggingto/home/hadoop/apps/hadoop-2.7.5/logs/hadoop-hadoop-journalnode-hadoop2.out配置的各個(gè)journalnode節(jié)點(diǎn)啟動(dòng)該進(jìn)程40hadoop3[hadoop@hadoop3conf]$hadoop-daemon.shstartjournalnodestartingjournalnode