module02hdfs分布式文件系統(tǒng)技術02安裝部署

修訂記錄建議直接將本膠片另存，然后在此膠片的基礎上進行編輯。本部分包含：培訓目標、目錄、習題、總結、問題等模板。參考IT解決方案產品培訓課程開發(fā)內容要素，按照模塊開發(fā)。課程編碼適用產品產品版本課程版本ISSUEH13-711FusionInsightHDV100R002C60V1.0開發(fā)/優(yōu)化者時間審核人開發(fā)類型（新開發(fā)/優(yōu)化）張源003577422016年6月高冬冬wx321719新開發(fā)本頁不打印HDFS安裝部署學完本課程后，您將能夠:掌握HDFS組件安裝部署熟悉HDFS常用配置參數部署規(guī)劃部署方法常用參數配置健康檢查關鍵指標HDFS部署組網組網原則適用場景管理節(jié)點、控制節(jié)點和數據節(jié)點分開部署。（推薦）節(jié)點數大于200節(jié)點的集群使用此場景，此方案至少需要8個節(jié)點。管理節(jié)點和控制節(jié)點合并部署，數據節(jié)點單獨部署。（推薦）節(jié)點數大于等于6，小于等于200節(jié)點的集群使用此場景。管理節(jié)點、控制節(jié)點和數據節(jié)點合并部署。節(jié)點數小于6的集群使用此場景，此方案至少需要3個節(jié)點。HDFS典型組網FusionInsightHD整個系統(tǒng)網絡劃分為2個平面，即業(yè)務平面和管理平面，兩個平面之間采用物理隔離的方式進行部署，保證業(yè)務、管理各自網絡的安全性。業(yè)務平面通過業(yè)務網絡接入，為用戶和上層用戶提供業(yè)務通道，對外提供數據存取、任務提交及計算能力。管理平面通過運維網絡接入，提供系統(tǒng)管理和維護功能。用于集群的管理，對外提供集群監(jiān)控、配置、審計、用戶管理等服務。在典型配置下，FusionInsightHD集群采用雙平面組網，如右圖所示。HDFS部署原則及約束服務名稱角色名稱內存最小要求依賴關系角色業(yè)務部署原則HDFSNN(NameNode)4GBNameNode與ZKFC關聯，依賴于ZooKeeper。

分別部署在2個控制節(jié)點上，主備配置。ZKFC(ZooKeeper

FailoverController)1GB分別部署在2個控制節(jié)點上，主備配置。JN(JournalNode)4GB至少部署3個在控制節(jié)點上，每個節(jié)點保留一份備份數據。

如需保留超過三份以上備份，可部署多個在控制或數據節(jié)點上，請保持數量為奇數個。DN(DataNode)4GB至少部署3個，建議部署在數據節(jié)點上。部署規(guī)劃部署方法新建部署擴容部署減容部署常用參數配置健康檢查關鍵指標新建部署1、進入安裝頁面，選擇“手動安裝”（也可選擇“模板安裝”，這里以手動安裝為例），點擊確定。新建部署2、輸入主機IP以及主機root用戶密碼，點擊“發(fā)現主機”，選擇發(fā)現成功的節(jié)點，點擊“下一步”。新建部署3、選中若干主機，點擊“設置選中主機的機架名稱”，在彈出的對話框中設置“新機架名稱”，點擊“確定”，選中所有主機，點擊“下一步”。新建部署4、根據業(yè)務需要選擇待安裝的服務。當選擇HDFS服務時，系統(tǒng)會自動為其選擇依賴的ZooKeeper服務。新建部署5、根據拓撲規(guī)劃，將組件部署到指定節(jié)點上。完成設置后點擊“下一步”。新建部署6、為Ladp配置一個未被占用的管理平面IP地址作為浮動IP，并配置管理平面網關。然后點擊“下一步”。新建部署7、了解“普通模式”和“高級模式”的描述信息后，選中“普通模式”，點擊“下一步”。新建部署8、完成配置操作后，進入確認頁面，確認頁面包含前面步驟的概要信息。然后點擊“提交”。新建部署9、提交集群安裝請求后，界面顯示安裝集群進度，全部步驟完成后點擊“完成”。新建部署10、客戶端下載在FusionInsightManager的“服務管理”界面，單擊“下載客戶端”，下載客戶端到主管理節(jié)點的指定路徑。新建部署11、客戶端部署使用Xshell登錄客戶端所在節(jié)點，解壓前一步獲取的客戶端安裝包。進入解壓文件夾，安裝客戶端：shinstall.sh/opt/client進入客戶端安裝目錄/opt/client，初始化環(huán)境變量：

sourcebigdata_env以hdfs用戶登錄認證：kinit<hdfs用戶>執(zhí)行查看命令檢查客戶端是否部署成功：hdfsdfs–ls/顯示以下結果，說明部署成功。部署規(guī)劃部署方法新建部署擴容部署減容部署常用參數配置健康檢查關鍵指標擴容部署從操作上可將擴容場景劃分成兩類：擴容節(jié)點，即往集群中添加更多服務器。添加服務實例，無論全新添加服務還是為業(yè)務組件添加業(yè)務實例，在FusionInsightManager上操作均為添加服務實例。安裝完成后的集群某組件的服務能力無法滿足業(yè)務需求，需要對不滿足服務能力需求的組件進行擴容，如DataNode。擴容部署1、在安裝了HDFS服務的集群管理界面，進入“服務管理”界面，點擊HDFS服務，進入HDFS服務界面。擴容部署2、在HDFS服務界面，點擊“實例”頁簽，進入HDFS實例界面。擴容部署3、在HDFS實例界面，點擊“添加實例”。擴容部署4、若擴容主機不在主機列表，需點擊“添加主機”，輸入主機IP及主機root用戶密碼，點擊“發(fā)現主機”，選擇發(fā)現成功的節(jié)點，點擊“下一步”。擴容部署5、在擴容的節(jié)點上規(guī)劃HDFS的角色，如DN，點擊“下一步”。擴容部署6、根據擴容規(guī)劃，配置需要擴容服務的參數。點擊“下一步”，對照擴容規(guī)劃內容，確認信息無誤，點擊“提交”。擴容部署7、實例擴容成功。擴容部署8、查看HDFS實例，成功擴容添加DataNode實例。部署規(guī)劃部署方法新建部署擴容部署減容部署常用參數配置健康檢查關鍵指標減容部署典型的減容場景1.節(jié)點可能存在無法修復的硬件錯誤。2.節(jié)點需要重新安裝操作系統(tǒng)。減容約束DataNode減容前需要執(zhí)行退服操作。減容影響HDFS存儲空間減少。減容部署1、點擊“服務管理>HDFS>實例”，進入HDFS實例界面，選擇待減容的實例，點擊“更多操作”中的“退服”，開始退服實例。減容部署2、退服成功后，勾選減容實例節(jié)點，點擊“更多操作”中的“刪除實例”操作。減容部署3、在確認減容相關影響提示后，點擊“確定”，開始刪除實例。減容部署4、刪除完成：確認DataNode實例刪除操作請求后，界面顯示刪除實例進度，全部完成后點擊“完成”。減容部署5、查看HDFS實例，成功減容刪除DataNode實例。部署規(guī)劃部署方法常用參數配置健康檢查關鍵指標常用參數說明及配置建議-HDFS參數建議值說明dfs.replication3HDFS存儲數據的副本數。建議為3份。修改后，HDFS將全局刷新副本數。dfs.client.block.write.replace-datanode-on-failure.replication2客戶端在寫入數據時，會強制要求所有數據寫成功，否則就寫入失敗。當數據節(jié)點數為3臺時，建議修改為2，以防止數據節(jié)點復位，寫入失敗。node.rpc.port8020HDFS內部RPC的通訊端口。node.http.port25000HDFSHTTP服務的端口。常用參數說明及配置建議-NameNode參數建議值說明node.image.backup.enabletrueNameNode元數據是否周期備份到OMS服務器上。備份文件在”系統(tǒng)設置”->”備份管理”可以看到。node.image.backup.nums48元數據備份個數，元數據備份為每30分鐘備份一次，一天可以產生48個元數據備份。dfs.blocksize134217728數據塊大小，默認為128M，單位為字節(jié)。系統(tǒng)安裝后，不建議修改。node.handler.count64NameNode并行處理任務數，調大可以提高性能。erval60HDFS回收站掃描周期，單位為分鐘。erval1440HDFS回收站文件保留時間，單位為分鐘，默認1天。dfs.permissions.enabledtrueHDFS文件系統(tǒng)是否啟用ACL安全管理，建議打開。常用參數說明及配置建議-DataNode參數建議值說明dfs.blocksize134217728數據塊大小，默認為128M，單位為字節(jié)。系統(tǒng)安裝后，不建議修改。dfs.datanode.handler.count8DataNode并行處理任務數，調大可以提高性能。erval21600DataNode數據塊校驗周期，此功能用于檢查損壞的數據塊。默認為21天。參數單位為小時。dfs.datanode.balance.bandwidthPerSec20971520HDFSBalancer功能的最高流量，調大后能縮短Balancer時間，但會占用較多網絡帶寬。dfs.datanode.data.dir.perm700DataNode創(chuàng)建存儲目錄的默認權限，能防止數據被非root賬號非法讀取。部署規(guī)劃部署方法常用參數配置健康檢查關鍵指標健康檢查關鍵指標關鍵指標項描述發(fā)送包的平均時間統(tǒng)計x.xns小于1000000.0ns服務狀態(tài)健康告警信息無告警信息健康檢查關鍵指標操作指導在FusionInsightManager界面，單擊“服務管理>HDFS>更多操作>啟動服務健康檢查”，即可查看健康檢查結果，如下圖。本章首先介紹了HDFS的部署規(guī)劃和方法，然后介紹了HDFS組件的配置，擴容減容方法，以及如何對HDFS進行健康檢查。HDFS有哪些角色，所依賴的服務有哪些？如何安裝HDFS客戶端？如何查看HDFS健康檢查關鍵指標？習題1.NameNode、ZKFC、journalNode的依賴啟動順序是（）A.NameNod