cdh543安裝手冊(cè)

1、Cloudera Manager：5.4.3CDH: 5.4.3前期準(zhǔn)備工作（系統(tǒng)環(huán)境搭建）所需軟件cloudera-manager-el6-cm5.3.4_x86_64.tar.gz mysql-connector-java-5.1.25-bin.jar1、設(shè)置靜態(tài)IP地址vi /etc/sysconfig/network-scripts/ifcfg-eth0 由于我重裝系統(tǒng)時(shí)已經(jīng)設(shè)置了，這里就不設(shè)置了。2、修改主機(jī)名hostname 主機(jī)名 （當(dāng)前生效）vi /etc/sysconfig/network （下次啟動(dòng)生效）roothadoop2 opt# cat /etc/sysconfig

2、/networkNETWORKING=yesHOSTNAME=hadoop2GATEWAY=NTPSERVERARGS=iburst由于我重裝系統(tǒng)時(shí)已經(jīng)設(shè)置了，這里就不設(shè)置了。3、綁定 IP與HostName在hadoop1節(jié)點(diǎn)上操作 vi /etc/hosts0 hadoop12 hadoop23 hadoop34 hadoop45 hadoop56 hadoop6復(fù)制到其它節(jié)點(diǎn)（hadoop2hadoop6）scp /etc

3、/hosts hadoop2:/etc/···scp /etc/hosts hadoop6:/etc/4、設(shè)置SSH免密碼登錄（所有節(jié)點(diǎn)）以下內(nèi)容僅供參考，具體詳見無密碼登錄設(shè)置筆記：1、重新生成密鑰 （各個(gè)節(jié)點(diǎn)）roothadoop1 /# cd /root/.ssh/roothadoop1 .ssh# ssh-keygen -t rsaroothadoop1 .ssh# cat id_rsa.pub >> authorized_keys測(cè)試是否成功 ssh localhost其他其它節(jié)點(diǎn)同樣的方式生成密鑰。2、設(shè)置兩兩結(jié)點(diǎn)間的免密碼登錄h

4、adoop2hadoop6將自己的公鑰復(fù)制給對(duì)方主機(jī)ssh-copy-id -i hadoop1hadoop1復(fù)制自己的authorized_keys給其他主機(jī) hadoop2hadoop6，這樣都可以互相免密碼登錄了。scp /root/.ssh/authorized_keys hadoop2:/root/.ssh/.scp /root/.ssh/authorized_keys hadoop6:/root/.ssh/5、安裝Oracle的JavaCentOS自帶Open Jdk，不過運(yùn)行CDH5需要使用Oracle的jdk，需要Java 7的支持。jdk安裝的時(shí)候，一定要采用rpm的安裝方式

5、，而不要采用tar解壓的安裝方式。因?yàn)閞pm的安裝方式，會(huì)在/usr/lib下新建兩個(gè)軟連接。首先，卸載自帶的OpenJdk，使用 rpm -qa | grep java 查詢java相關(guān)的包，使用 rpm -e -nodeps 包名 卸載掉。由于是rpm包并不需要我們來配置環(huán)境變量，我們只需要配置一個(gè)全局的JAVA_HOME變量即可，執(zhí)行命令：echo "JAVA_HOME=/usr/java/latest/" >> /etc/environment 執(zhí)行命令java -version 和 

6、javac -version ，查看Jdk是否安裝正確。1、卸載系統(tǒng)自帶OPEN-JDK（所有節(jié)點(diǎn)）roothadoop1 .ssh# rpm -qa | grep javajava-1.7.0-openjdk-5-.el6.x86_64tzdata-java-2013g-1.el6.noarchjava-1.6.0-openjdk--3.0.el6.x86_64roothadoop1 .ssh# rpm -e -nodeps java-1.7.0-openjdk-5-.el6.x86_64 tzd

7、ata-java-2013g-1.el6.noarch java-1.6.0-openjdk--3.0.el6.x86_642、安裝Oracle的JDK（所有節(jié)點(diǎn)）roothadoop1 opt# rpm -ivh jdk-7u80-linux-x64.rpmPreparing. # 100% 1:jdk # 100%Unpacking JAR files. rt.jar. jsse.jar. charsets.jar. tools.jar. localedata.jar. jfxrt.jar.roothadoop1 opt# echo "JAVA_HO

8、ME=/usr/java/latest/" >> /etc/environmentroothadoop1 opt# java -versionjava version "1.7.0_80"Java(TM) SE Runtime Environment (build 1.7.0_80-b15)Java HotSpot(TM) 64-Bit Server VM (build 24.80-b11, mixed mode)roothadoop1 opt# javac -versionjavac 1.7.0_806、安裝和配置MySql（主節(jié)點(diǎn)）通過 

9、yum install mysql-server 安裝mysql服務(wù)器。設(shè)置開機(jī)啟動(dòng) chkconfig mysqld on ，并啟動(dòng)mysql服務(wù) service mysqld start ，并根據(jù)提示設(shè)置root的初始密碼： mysqladmin -u root password 'xxxx' 。roothadoop1 opt# yum install mysql-serverroothadoop1 opt# chkconfig mysqld onroothadoop1 opt# service mysq

10、ld startroothadoop1 opt# service mysqld statusroothadoop1 opt# mysqladmin -u root password 'liguodong'進(jìn)入mysql命令行 mysql -uroot -pxxxx ，創(chuàng)建以下數(shù)據(jù)庫(kù)：roothadoop1 opt# mysql -uroot -pliguodongmysql> create database hive DEFAULT CHARSET utf8 COLLATE utf8_general_ci;Query OK, 1 row affecte

11、d (0.00 sec)mysql> create database amon DEFAULT CHARSET utf8 COLLATE utf8_general_ci;Query OK, 1 row affected (0.00 sec)mysql> create database hue DEFAULT CHARSET utf8 COLLATE utf8_general_ci;Query OK, 1 row affected (0.00 sec)mysql> create database oozie DEFAULT CHARSET utf8 COLLATE utf8_g

12、eneral_ci; 設(shè)置root授權(quán)訪問以上所有的數(shù)據(jù)庫(kù)。mysql> grant all privileges on *.* to 'root''hadoop1' identified by 'liguodong' with grant option;Query OK, 0 rows affected (0.00 sec)mysql> flush privileges;Query OK, 0 rows affected (0.00 sec)Cloudera官方MySql配置文檔：7、關(guān)閉防火墻和SELinux（所有節(jié)點(diǎn)）注意： 需

13、要在所有的節(jié)點(diǎn)上執(zhí)行，因?yàn)樯婕暗降亩丝谔嗔?，臨時(shí)關(guān)閉防火墻是為了安裝起來更方便（防火墻會(huì)引起hadoop相關(guān)組件通訊的各種異常。）， 安裝完畢后可以根據(jù)需要設(shè)置防火墻策略 ，保證集群安全。關(guān)閉防火墻： service iptables stop （臨時(shí)關(guān)閉） chkconfig iptables off （重啟后生效）關(guān)閉SELINUX：（實(shí)際安裝過程中發(fā)現(xiàn)沒有關(guān)閉也是可以的，不知道會(huì)不會(huì)有問題，還需進(jìn)一步進(jìn)行驗(yàn)證）setenforce 0 （臨時(shí)生效）修改 /etc/selinux/config 下的 SELI

14、NUX=disabled （重啟后永久生效）roothadoop1 opt# service iptables stopiptables：將鏈設(shè)置為政策 ACCEPT：filter 確定iptables：清除防火墻規(guī)則： 確定iptables：正在卸載模塊： 確定roothadoop1 opt# chkconfig iptables offroothadoop1 opt# setenforce 0roothadoop1 opt# vi /etc/selinux/configroothadoop1 opt# cat /etc/selinux/configSELINUXTYPE=targ

15、etedSELINUX=disabled8、安裝和配置NTP服務(wù)（所有節(jié)點(diǎn)）集群中所有主機(jī)必須保持時(shí)間同步，如果時(shí)間相差較大會(huì)引起各種問題。具體思路如下：master節(jié)點(diǎn)作為ntp服務(wù)器與外界對(duì)時(shí)中心同步時(shí)間，隨后對(duì)所有datanode節(jié)點(diǎn)提供時(shí)間同步服務(wù)。所有datanode節(jié)點(diǎn)以master節(jié)點(diǎn)為基礎(chǔ)同步時(shí)間。所有節(jié)點(diǎn)安裝相關(guān)組件： yum install ntp 。完成后，配置開機(jī)啟動(dòng)： chkconfig ntpd on ，檢查是否設(shè)置成功： chkconfig -list ntpd ，其中2-5為on狀態(tài)就代表成功。root

16、hadoop1 opt# yum install ntproothadoop1 opt# chkconfig ntpd onroothadoop1 opt# chkconfig -list ntpdntpd 0:關(guān)閉 1:關(guān)閉 2:啟用 3:啟用 4:啟用 5:啟用 6:關(guān)閉配置內(nèi)網(wǎng)NTP服務(wù)器（主節(jié)點(diǎn)）在配置之前，先使用ntpdate手動(dòng)同步一下時(shí)間，免得本機(jī)與對(duì)時(shí)中心時(shí)間差距太大，使得ntpd不能正常同步。這里選用6作為對(duì)時(shí)中心，命令如下：ntpdate -u 6 。# ntpdate -u 622 Dec

17、16:52:38 ntpdate6400: adjust time server 6 offset 0.012135 secntp服務(wù)只有一個(gè)配置文件，配置好就可以。 這里只給出有用的配置， 不需要的配置都用#注掉 ，這里就不在給出。roothadoop1 opt# vi /etc/ntp.confroothadoop1 opt# cat /etc/ntp.confdriftfile /var/lib/ntp/driftrestrict restrict -6 :1restrict default nomodify notrap s

18、erver 6 preferincludefile /etc/ntp/crypto/pwkeys /etc/ntp/keys在能連接外網(wǎng)的時(shí)候用上面的配置，否則，在server節(jié)點(diǎn)如下配置：前面不動(dòng)注釋掉所有的server和以下兩行，includefile /etc/ntp/crypto/pw keys /etc/ntp/keys在文件尾添加如下兩行：server fudge stratum 10配置文件完成，保存退出。啟動(dòng)服務(wù)，執(zhí)行如下命令：roothadoop1 opt# service ntpd start檢查是否成功

19、，用ntpstat命令查看同步狀態(tài)，出現(xiàn)以下狀態(tài)代表啟動(dòng)成功：roothadoop1 # ntpstatsynchronised to NTP server (6) at stratum 3 time correct to within 133 ms polling server every 1024 s如果出現(xiàn)異常請(qǐng)等待幾分鐘，一般等待5-10分鐘才能同步。配置ntp客戶端（hadoop2hadoop6）driftfile /var/lib/ntp/drift restrict restrict -6 :1restrict default kod n

20、omodify notrap nopeer noqueryrestrict -6 default kod nomodify notrap nopeer noquery#這里是主節(jié)點(diǎn)(內(nèi)網(wǎng)NTP服務(wù)器)的主機(jī)名或者ipserver hadoop1includefile /etc/ntp/crypto/pwkeys /etc/ntp/keys保存退出，請(qǐng)求服務(wù)器前，請(qǐng)先使用ntpdate手動(dòng)同步一下時(shí)間： ntpdate -u hadoop1 (主節(jié)點(diǎn)ntp服務(wù)器)這里可能出現(xiàn)同步失敗的情況，請(qǐng)不要著急，一般是本地的ntp服務(wù)器還沒有正常啟動(dòng)，一般需要等待5-10分鐘才可以正常

21、同步。啟動(dòng)服務(wù)： service ntpd startroothadoop2 # ntpdate -u hadoop127 Jun 08:14:38 ntpdate1899: adjust time server 0 offset 0.000293 secroothadoop2 # service ntpd startroothadoop2 # chkconfig ntpd on安裝與配置Cloudera Manager Server 和AgentServer配置（主節(jié)點(diǎn)）下載地址： http:/archive-根據(jù)自己的系統(tǒng)選擇相應(yīng)的版本，本次安裝

22、選用的是 cloudera-manager-el6-cm5.3.4_x86_64.tar.gz ，下載完成后只上傳到 主節(jié)點(diǎn) 即可。然后解壓到/opt目錄下，不能解壓到其它地方。因?yàn)閏dh5的源會(huì)默認(rèn)在 /opt/cloudera/parcel-repo 尋找，怎么制作cdh5的本地源文件會(huì)在之后介紹。roothadoop1 opt# tar -zxvf cloudera-manager-el6-cm5.3.4_x86_64.tar.gz給 所有節(jié)點(diǎn) 添加cloudera-scm用戶：roothadoop1 lib

23、# useradd -system -home=/opt/cm-5.3.4/run/cloudera-scm-server/ -no-create-home -shell=/bin/false -comment "Cloudera SCM User" cloudera-scm為Cloudera Manager 5建立數(shù)據(jù)庫(kù)：因?yàn)槲覀冇玫氖荕ysql數(shù)據(jù)庫(kù)，所以我們需要下載Mysql的JDBC驅(qū)動(dòng)，本次從官網(wǎng)上下載的版本是： mysql-connector-java-5.1.25-bin.jar 放到 /opt/cm-5.3.4/share/cm

24、f/lib/ 目錄下。roothadoop1 opt# mv mysql-connector-java-5.1.25-bin.jar /opt/cm-5.3.4/share/cmf/lib/然后，建立數(shù)據(jù)庫(kù)：roothadoop1 opt#/opt/cm-5.3.4/share/cmf/schema/scm_prepare_database.sh mysql cm -hlocalhost -uroot -pliguodong -scm-host localhost scm scm scm格式是:scm_prepare_database.sh 數(shù)據(jù)庫(kù)類型 數(shù)據(jù)庫(kù) 服務(wù)器 用戶名 密碼

25、scm-host Cloudera_Manager_Server所在的機(jī)器，后面那三個(gè)不知道代表什么，直接照抄官網(wǎng)的了。開啟Cloudera Manager 5 Server端：roothadoop1 lib# /opt/cm-5.3.4/etc/init.d/cloudera-scm-server start注意：server首次啟動(dòng)不要立即關(guān)閉或重啟，因?yàn)槭状螁?dòng)會(huì)自動(dòng)創(chuàng)建相關(guān)表以及數(shù)據(jù)，如果因?yàn)樘厥庠蛑型就顺?，?qǐng)先刪除所有表以及數(shù)據(jù)之后再次啟動(dòng)，否則將會(huì)出現(xiàn)啟動(dòng)不成功的情況。Agent配置（所有節(jié)點(diǎn)）開啟Cloudera Manager 5 Agents端。現(xiàn)在 主節(jié)點(diǎn)

26、60;修改 /opt/cm-5.3.4/etc/cloudera-scm-agent/config.ini 下面的serer_host為主節(jié)點(diǎn)的主機(jī)名。roothadoop1 lib# vi /opt/cm-5.3.4/etc/cloudera-scm-agent/config.ini server_host=hadoop1先復(fù)制/opt/cm-5.3.4到 hadoop2hadoop6 節(jié)點(diǎn)上，scp -r /opt/cm-5.3.4 hadoop2:/opt/···scp -r /opt/cm-5.3.4 hadoop6

27、:/opt/等待拷貝成功，在所有節(jié)點(diǎn)上啟動(dòng)Agent：（注意必須以管理員權(quán)限啟動(dòng)）roothadoop1 lib# /opt/cm-5.3.4/etc/init.d/cloudera-scm-agent start瀏覽器啟動(dòng)Cloudera Manager 5 控制臺(tái)（默認(rèn)端口號(hào)是7180），啟動(dòng)成功就會(huì)看到登陸頁(yè)面。Cloudera Manager Server和Agent都啟動(dòng)以后，就可以進(jìn)行CDH5的安裝配置了。這時(shí)可以通過瀏覽器訪問主節(jié)點(diǎn)的7180端口測(cè)試一下了（由于CM Server的啟動(dòng)需要花點(diǎn)時(shí)間，這里可能要等待一會(huì)才能訪問），默認(rèn)的用戶名和密碼均為admin。制作本地源先下載C

28、DH到本地 http:/archive-這里需要下載三樣?xùn)|西，首先是與自己系統(tǒng)版本相對(duì)應(yīng)的parcel包，然后是manifest.json文件。CDH-5.2.0-1.cdh5.2.0.p0.12-el6.parcel、CDH-5.2.0-1.cdh5.2.0.p0.12-el6.parcel.sha1、manifest.json下載完成后，將這兩個(gè)文件放到master節(jié)點(diǎn)的/opt/cloudera/parcel-repo下（目錄在安裝Cloudera Manager 5時(shí)已經(jīng)生成），注意目錄一個(gè)字都不能錯(cuò)。roothadoop1 parcel-repo# pwd/opt/clou

29、dera/parcel-reporoothadoop1 parcel-repo# ll總用量 1533188-rw-r-. 1 root root 1569930781 6月 27 11:49 CDH-5.3.4-1.cdh5.3.4.p0.4-el6.parcel-rw-r-r-. 1 root root 41 6月 27 11:49 CDH-5.3.4-1.cdh5.3.4.p0.4-el6.parcel.sha-rw-r-r-. 1 root root 42475 6月 27 10:18 manifest.json接下來打開manifest.json文件，里面是json格式的配置，我們需

30、要的就是與我們系統(tǒng)版本相對(duì)應(yīng)的hash碼，因?yàn)槲覀冇玫氖荂entos6.5，所以找到如下位置：在這個(gè)大括號(hào)的最下面找到“hash”所對(duì)應(yīng)的值。將“hash”的值復(fù)制下來，然后，將CDH-5.2.0-1.cdh5.2.0.p0.12-el6.parcel.sha1文件名改為CDH-5.2.0-1.cdh5.2.0.p0.12-el6.parcel.sha，將復(fù)制下來的hash值替換掉文本中的hash值，按理說應(yīng)該是一致的。保存好了，這樣，我們的本地源制作完成了。然后的操作就是控制臺(tái)按照步驟安裝即可。安裝CDH打開 http:/hadoop1:7180 ，登陸控制臺(tái)，默認(rèn)賬戶和

31、密碼都是admin，安裝時(shí)選擇免費(fèi)版，之后由于cm5對(duì)中文的支持很強(qiáng)大，按照提示安裝即可，如果系統(tǒng)配置有什么問題在安裝過程中會(huì)有提示，根據(jù)提示給系統(tǒng)安裝組件就可以了。登錄界面選取安裝版本指定安裝主機(jī)選取本地Parcel包接下來，出現(xiàn)以下包名，說明本地Parcel包配置無誤，直接點(diǎn)繼續(xù)就可以了。集群安裝檢查主機(jī)正確性接下來是服務(wù)器檢查，可能會(huì)遇到以下問題：Cloudera 建議將 /proc/sys/vm/swappiness 設(shè)置為 0。當(dāng)前設(shè)置為 60。使用 sysctl 命令在運(yùn)行時(shí)更改該設(shè)置并編輯 /etc/sysctl.conf 以在重啟后保存該設(shè)置。您可以繼續(xù)進(jìn)行安裝，但可能會(huì)遇到問

32、題，Cloudera Manager 報(bào)告您的主機(jī)由于交換運(yùn)行狀況不佳。以下主機(jī)受到影響：···在會(huì)受到影響的主機(jī)上執(zhí)行 echo 0 > /proc/sys/vm/swappiness 命令即可解決。選擇安裝服務(wù)集群角色分配一般情況下保持默認(rèn)就可以了（Cloudera Manager會(huì)根據(jù)機(jī)器的配置自動(dòng)進(jìn)行配置，如果需要特殊調(diào)整，自行進(jìn)行設(shè)置就可以了）。集群數(shù)據(jù)庫(kù)設(shè)置集群審查更改如果沒有其他需求保持默認(rèn)配置。終于到安裝各個(gè)服務(wù)的地方了。注意，這里安裝Hive的時(shí)候可能會(huì)報(bào)錯(cuò)，因?yàn)槲覀兪褂昧薓ySql作為hive的元數(shù)據(jù)存儲(chǔ)，hive默認(rèn)

33、沒有帶mysql的驅(qū)動(dòng)，通過以下命令拷貝一個(gè)就行了：cp /opt/cm-5.3.4/share/cmf/lib/mysql-connector-java-5.1.25-bin.jar /opt/cloudera/parcels/CDH-5.3.4-1.cdh5.3.4.p0.12/lib/hive/lib/oozie的安裝也會(huì)遇到同樣的問題，oozie的復(fù)制jdbc.jar包的位置有點(diǎn)不同，是拷貝到zoozie的libtools文件夾中。cp /opt/cm-5.3.4/share/cmf/lib/mysql-connector-java-5.1.25-bin.jar /opt/cloude

34、ra/parcels/CDH-5.3.4-1.cdh5.3.4.p0.12/lib/oozie/libtools/之后再繼續(xù)安裝就不會(huì)遇到問題了。經(jīng)過漫長(zhǎng)的等待后，服務(wù)的安裝完成：安裝完成后，就可以進(jìn)入集群界面看一下集群的當(dāng)前狀況了。測(cè)試roothadoop1 /# su hdfshdfshadoop1 /$ yarn jar /opt/cloudera/parcels/CDH/lib/hadoop-mapreduce/hadoop-mapreduce-examples.jar pi 100 1000Number of Maps = 100Samples per Map = 1000Wrote input for Map #0Wrote input for Map #1Wrote input for Map #2Wrote input for Map #3Wrote input for Map #4Wrote input for Map #5Wrote input for Map #6Wrote input for Map #7Wrote input for Map #8Wrote input for Map #9Wrote input for Map #10··