版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡介
1、人類從當(dāng)前“以設(shè)備為中心”的時(shí)代,已經(jīng)進(jìn)入了“以服務(wù)為中心的時(shí)代”。現(xiàn)在,“云”正成為IT業(yè)界關(guān)注的焦點(diǎn)。Hadoop是Apache開源組織的一個(gè)分布式計(jì)算開源框架,它受到最先由Google Lab開發(fā)的Map/Reduce和Google FileSystem(GFS)的啟發(fā),是一個(gè)能夠?qū)Υ罅繑?shù)據(jù)進(jìn)行分布式處理的軟件框架,以一種可靠、高效、可伸縮的方式進(jìn)行數(shù)據(jù)處理。Hadoop由分布式文件系統(tǒng)和分布式計(jì)算框架MapReduce兩部分組成
2、,其中MapReduce則構(gòu)建在分布式文件系統(tǒng)之上,對(duì)存儲(chǔ)在分布式文件系統(tǒng)中的數(shù)據(jù)進(jìn)行分布式計(jì)算。而作業(yè)調(diào)度算法對(duì)整個(gè)Hadoop執(zhí)行作業(yè)的性能起著很重要的作用。為了減少任務(wù)執(zhí)行過程中網(wǎng)絡(luò)傳輸開銷,通常將任務(wù)調(diào)度到輸入數(shù)據(jù)所在的計(jì)算節(jié)點(diǎn),也就是讓任務(wù)在本地進(jìn)行計(jì)算。
Hadoop三種原生調(diào)度算法在任務(wù)選擇策略上相同,這個(gè)任務(wù)選擇策略優(yōu)先選擇本地性的任務(wù)。Hadoop有時(shí)還對(duì)非本地性任務(wù)進(jìn)行調(diào)度,比如當(dāng)其它節(jié)點(diǎn)都很忙碌而有空閑節(jié)
3、點(diǎn)申請(qǐng)任務(wù)調(diào)度而的時(shí)候。而且對(duì)失敗任務(wù)的調(diào)度Hadoop通常不考慮任務(wù)的數(shù)據(jù)本地性,針對(duì)Hadoop調(diào)度算法在數(shù)據(jù)本地性方面存在的這些問題,為了改善這些狀況,本文基于數(shù)據(jù)塊間資源預(yù)取的方法,給出了改進(jìn)思想,該改進(jìn)思想在非本地任務(wù)執(zhí)行之前,其它任務(wù)執(zhí)行過程中對(duì)非本地性任務(wù)數(shù)據(jù)進(jìn)行數(shù)據(jù)塊間的預(yù)取,這樣就嚴(yán)格保證了Hadoop調(diào)度任務(wù)的本地性。
本文通過搭建小型的Hadoop平臺(tái),依次對(duì)Hadoop原生調(diào)度算法和給出的改進(jìn)思想進(jìn)行實(shí)
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 眾賞文庫僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- Hadoop任務(wù)調(diào)度算法本地性優(yōu)化研究.pdf
- Hadoop作業(yè)調(diào)度算法分析與優(yōu)化.pdf
- 基于MLFQ的Hadoop作業(yè)調(diào)度算法研究與優(yōu)化.pdf
- Hadoop任務(wù)調(diào)度本地化研究.pdf
- 基于Hadoop平臺(tái)的作業(yè)調(diào)度算法優(yōu)化研究.pdf
- 基于Hadoop的車聯(lián)網(wǎng)作業(yè)調(diào)度優(yōu)化問題研究.pdf
- 基于Hadoop作業(yè)內(nèi)計(jì)算任務(wù)調(diào)度優(yōu)化的研究.pdf
- hadoop集群作業(yè)的調(diào)度研究
- Hadoop集群調(diào)度優(yōu)化的研究.pdf
- Hadoop平臺(tái)作業(yè)調(diào)度算法研究與改進(jìn).pdf
- 基于Hadoop的作業(yè)調(diào)度策略研究.pdf
- 基于Hadoop的作業(yè)調(diào)度方案研究.pdf
- Hadoop平臺(tái)的作業(yè)調(diào)度算法研究與改進(jìn).pdf
- Hadoop平臺(tái)作業(yè)調(diào)度算法研究.pdf
- MapReduce模型下數(shù)據(jù)本地性負(fù)載平衡策略研究.pdf
- 基于Hadoop平臺(tái)的作業(yè)調(diào)度研究.pdf
- 基于Hadoop平臺(tái)的作業(yè)調(diào)度算法研究與改進(jìn).pdf
- 基于Hadoop的MapReduce作業(yè)調(diào)度系統(tǒng)的研究與應(yīng)用.pdf
- 基于Hadoop MapReduce的作業(yè)調(diào)度方法研究.pdf
- 基于Hadoop集群的作業(yè)調(diào)度算法的研究.pdf
評(píng)論
0/150
提交評(píng)論