云計(jì)算環(huán)境下基于優(yōu)先級(jí)與可靠度的Hadoop作業(yè)調(diào)度研究.pdf_第1頁(yè)
已閱讀1頁(yè),還剩69頁(yè)未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

1、近年來(lái),云計(jì)算因其高性能、高可靠、可擴(kuò)展等特點(diǎn)在海量數(shù)據(jù)計(jì)算中得到了廣泛應(yīng)用。在信息技術(shù)飛速發(fā)展的條件下,海量數(shù)據(jù)處理成為計(jì)算機(jī)科學(xué)領(lǐng)域的新挑戰(zhàn)。MapReduce作為一種新興的分布式計(jì)算模型,它的主要特點(diǎn)在于封裝開(kāi)發(fā)傳統(tǒng)并行分布式程序的細(xì)節(jié),實(shí)現(xiàn)業(yè)務(wù)邏輯程序的編寫(xiě)與分布式實(shí)現(xiàn)細(xì)節(jié)的分離。Hadoop作為MapReduce計(jì)算模型的開(kāi)源實(shí)現(xiàn),得到了各界的廣泛關(guān)注,Hadoop調(diào)度算法主要克服的是集群資源利用率,用戶作業(yè)的運(yùn)行時(shí)間等難題。

2、云環(huán)境下Hadoop作業(yè)調(diào)度的研究給學(xué)術(shù)界和工業(yè)界帶來(lái)了新的挑戰(zhàn)。改進(jìn)和提高作業(yè)調(diào)度能力,對(duì)提高Hadoop的性能和資源利用率具有重要意義。
   首先,介紹了云計(jì)算的概念以及體系結(jié)構(gòu),對(duì)開(kāi)源平臺(tái)Hadoop中的MapReduce編程模型和分布式文件系統(tǒng)HDFS(Hadoop Distributed File System)進(jìn)行了深入研究,詳細(xì)分析了Hadoop作業(yè)運(yùn)行時(shí)機(jī)制以及現(xiàn)有的調(diào)度算法。
   其次,針對(duì)基于優(yōu)先

3、級(jí)的加權(quán)輪轉(zhuǎn)調(diào)度算法沒(méi)有考慮系統(tǒng)負(fù)載水平,同時(shí)不能充分利用異構(gòu)集群中計(jì)算節(jié)點(diǎn)的處理能力的問(wèn)題,提出了一種改進(jìn)的優(yōu)先級(jí)調(diào)度算法(Priority Based Multi Scale,PBMC),PBMC算法對(duì)集群中的計(jì)算節(jié)點(diǎn)的計(jì)算能力進(jìn)行判斷,并按照計(jì)算能力的不同進(jìn)行排序,考慮系統(tǒng)整體的負(fù)載水平,在保證系統(tǒng)整體負(fù)載處于合理狀態(tài)時(shí),將優(yōu)先級(jí)較高作業(yè)中的任務(wù)分配給計(jì)算能力好的節(jié)點(diǎn)。實(shí)驗(yàn)結(jié)果表明PBMC算法充分考慮了集群中節(jié)點(diǎn)性能的不同,減少了

4、集群作業(yè)的完成時(shí)間,進(jìn)一步提高了集群資源的利用率。
   最后,通過(guò)對(duì)云計(jì)算的開(kāi)源平臺(tái)Hadoop調(diào)度算法進(jìn)行深入研究,針對(duì)用戶提交服務(wù)的隨機(jī)性、趨同性以及云計(jì)算系統(tǒng)的可靠性和集群資源的利用率的問(wèn)題,利用排隊(duì)模型建立云計(jì)算系統(tǒng)模型,采用集群中節(jié)點(diǎn)負(fù)載值來(lái)劃分計(jì)算節(jié)點(diǎn)的可靠度。在對(duì)節(jié)點(diǎn)可靠性分類(lèi)的基礎(chǔ)上,提出了一種基于計(jì)算節(jié)點(diǎn)可靠度的Hadoop作業(yè)調(diào)度算法(Job Scheduling Based on Node Reliabi

溫馨提示

  • 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 眾賞文庫(kù)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

最新文檔

評(píng)論

0/150

提交評(píng)論