2023學(xué)年完整公開課版分級(jí)hdfs_第1頁
2023學(xué)年完整公開課版分級(jí)hdfs_第2頁
2023學(xué)年完整公開課版分級(jí)hdfs_第3頁
2023學(xué)年完整公開課版分級(jí)hdfs_第4頁
2023學(xué)年完整公開課版分級(jí)hdfs_第5頁
已閱讀5頁，還剩6頁未讀， 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明：本文檔由用戶提供并上傳，收益歸屬內(nèi)容提供方，若內(nèi)容存在侵權(quán)，請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡介

分級(jí)hdfs2分級(jí)hdfs3分級(jí)hdfs為什么需要hdfsa，因?yàn)樽x取一塊磁盤的所有數(shù)據(jù)需要很長時(shí)間，寫入需要更長的時(shí)間（寫入一般是讀取的三倍），一塊磁盤的傳輸能力有限，多塊磁盤可以同時(shí)傳輸4分級(jí)hdfsb,當(dāng)數(shù)據(jù)集的大小超過一臺(tái)獨(dú)立的物理計(jì)算機(jī)的能力時(shí)，就有必要對(duì)其進(jìn)行分區(qū)并存儲(chǔ)在若干臺(tái)單獨(dú)的計(jì)算機(jī)上c，分布化的文件系統(tǒng)為因?yàn)榉植己蟮臋C(jī)構(gòu)不完整，導(dǎo)致系統(tǒng)復(fù)雜度加大，并且引入網(wǎng)絡(luò)編程，同樣導(dǎo)致分布式文件系統(tǒng)更加復(fù)雜5分級(jí)hdfs對(duì)于上面的問題，hdfs迎刃而解。hdfs以流處理訪問模式來存儲(chǔ)文件，一次寫入，多次讀取，數(shù)據(jù)源通常有源生成或者從數(shù)據(jù)源直接復(fù)制而來，接著長時(shí)間在此數(shù)據(jù)集上進(jìn)行各類分析，大數(shù)數(shù)據(jù)不需要搬來搬去6分級(jí)hdfs完整性文件----》經(jīng)dfs存儲(chǔ)后---》分片文件HDFS解決海量校驗(yàn)的方法：分片冗余，本地校驗(yàn)完整性校驗(yàn)----分片后--》每個(gè)分片文件需要分片服務(wù)器校驗(yàn)7分級(jí)hdfs只要冗余文件的分片文件有一片是完整的，經(jīng)過多次協(xié)調(diào)，其它分片文件也將完整分片后存在的問題：因?yàn)槲募辉谝粋€(gè)磁盤導(dǎo)致讀取訪問操作延時(shí)8分級(jí)hdfshdfs中block默認(rèn)64mhdfs提供mapreduce數(shù)據(jù)服務(wù)9分級(jí)hdfs分布式文件抽象優(yōu)勢a，一個(gè)文件可大于每個(gè)硬盤b，文件不用全在一個(gè)磁盤上c，簡化了存儲(chǔ)子系統(tǒng)設(shè)計(jì)10分級(jí)hdfs配置hdfs集群的成本主

溫馨提示

  • 1. 本站所有資源如無特殊說明，都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等，如果需要附件，請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙，網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽，若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲(chǔ)空間，僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理，對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯，并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容，請(qǐng)與我們聯(lián)系，我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

評(píng)論

0/150

提交評(píng)論