版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡介
1、近年來,Hadoop技術(shù)不管是在科研方面還是在應(yīng)用方面都取得了巨大的發(fā)展,作業(yè)調(diào)度技術(shù)作為Hadoop平臺(tái)的核心技術(shù)之一,其目的是調(diào)度作業(yè)執(zhí)行的順序和分配計(jì)算資源。作業(yè)調(diào)度算法的好壞將直接影響到整個(gè)平臺(tái)的計(jì)算性能。
到現(xiàn)在為止,Hadoop認(rèn)可的調(diào)度算法都有一定的不足,先進(jìn)先出(FIFO)是針對(duì)單用戶來設(shè)計(jì)的,它忽略了不同作業(yè)之間存在的差異,計(jì)算能力(CapacityScheduler)隊(duì)列設(shè)置和作業(yè)選組無法自動(dòng)進(jìn)行,計(jì)算能力
2、(FairScheduler)沒有考慮當(dāng)前系統(tǒng)各節(jié)點(diǎn)的負(fù)載情況。
在現(xiàn)有調(diào)度算法不足的基礎(chǔ)上提出了基于數(shù)據(jù)本地性的類時(shí)間片輪轉(zhuǎn)算法,該算法考慮作業(yè)的優(yōu)先級(jí)和作業(yè)與運(yùn)算節(jié)點(diǎn)之間的數(shù)據(jù)本地性,設(shè)定一個(gè)避讓閥值,來解決數(shù)據(jù)本地性和優(yōu)先級(jí)之間的先后關(guān)系,采用類時(shí)間片輪轉(zhuǎn)方式,來確保任務(wù)間的并行運(yùn)行。在保證優(yōu)先級(jí)的前提下盡量滿足作業(yè)的數(shù)據(jù)本地性,每次調(diào)度都從作業(yè)隊(duì)列中選擇對(duì)當(dāng)前節(jié)點(diǎn)來說最優(yōu)作業(yè)進(jìn)行調(diào)度。這樣既能保證優(yōu)先級(jí)高的作業(yè)不會(huì)因其
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 眾賞文庫僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 基于公平的Hadoop貪心調(diào)度算法研究.pdf
- 基于Hadoop的作業(yè)調(diào)度策略研究.pdf
- 基于Hadoop平臺(tái)的作業(yè)調(diào)度算法研究與改進(jìn).pdf
- 基于Hadoop集群的作業(yè)調(diào)度算法的研究.pdf
- 基于MLFQ的Hadoop作業(yè)調(diào)度算法研究與優(yōu)化.pdf
- 基于Hadoop的作業(yè)調(diào)度負(fù)載均衡算法研究.pdf
- 基于Hadoop平臺(tái)的作業(yè)調(diào)度算法優(yōu)化研究.pdf
- Hadoop平臺(tái)作業(yè)調(diào)度算法研究.pdf
- Hadoop平臺(tái)作業(yè)調(diào)度算法研究與改進(jìn).pdf
- Hadoop平臺(tái)的作業(yè)調(diào)度算法研究與改進(jìn).pdf
- 基于預(yù)測(cè)的Hadoop任務(wù)調(diào)度算法優(yōu)化.pdf
- 基于Hadoop的作業(yè)調(diào)度算法的研究和改進(jìn).pdf
- Hadoop作業(yè)調(diào)度算法分析與優(yōu)化.pdf
- 基于Hadoop作業(yè)內(nèi)計(jì)算任務(wù)調(diào)度優(yōu)化的研究.pdf
- Hadoop平臺(tái)任務(wù)調(diào)度算法的研究與改進(jìn).pdf
- MapReduce仿真及Hadoop公平調(diào)度算法研究.pdf
- 基于Hadoop的調(diào)度算法研究與實(shí)現(xiàn).pdf
- 基于遺傳算法的Hadoop平臺(tái)作業(yè)調(diào)度算法改進(jìn).pdf
- Hadoop平臺(tái)下的作業(yè)調(diào)度算法的研究.pdf
- 基于Hadoop的作業(yè)調(diào)度方案研究.pdf
評(píng)論
0/150
提交評(píng)論