Hadoop平臺(tái)下作業(yè)調(diào)度方法研究.pdf

1、云計(jì)算在網(wǎng)頁(yè)搜索、數(shù)據(jù)挖掘等大規(guī)模數(shù)據(jù)處理方面正變得越來(lái)越重要，Hadoop作為一個(gè)開(kāi)源的云計(jì)算平臺(tái)也得到了廣泛的應(yīng)用。作業(yè)調(diào)度算法是Hadoop平臺(tái)的核心，良好的作業(yè)調(diào)度算法能夠提高計(jì)算的速度與對(duì)計(jì)算資源的利用率。
　　論文首先對(duì)Hadoop平臺(tái)的原理與結(jié)構(gòu)進(jìn)行了詳細(xì)的分析;然后介紹了Hadoop平臺(tái)自帶的兩個(gè)調(diào)度算法，F(xiàn)IFO調(diào)度算法和公平調(diào)度算法;為了對(duì)調(diào)度算法進(jìn)行定量的比較，設(shè)計(jì)了集群均衡性以及作業(yè)執(zhí)行公平性的定量計(jì)算方法

2、;最后根據(jù)提出的方法，通過(guò)實(shí)驗(yàn)比較了FIFO調(diào)度算法以及公平調(diào)度算法在異構(gòu)集群中的實(shí)際表現(xiàn)，并分析了兩種調(diào)度算法的不足。
　　結(jié)合異構(gòu)集群的特點(diǎn)與公平調(diào)度算法良好的作業(yè)公平性，論文中設(shè)計(jì)了基于集群狀態(tài)的實(shí)時(shí)作業(yè)調(diào)度算法。該算法保證作業(yè)按照大小及優(yōu)先級(jí)獲得計(jì)算資源，且能夠根據(jù)每個(gè)節(jié)點(diǎn)負(fù)載的變化動(dòng)態(tài)調(diào)整該節(jié)點(diǎn)的資源數(shù)量，以適應(yīng)異構(gòu)集群的執(zhí)行環(huán)境。論文中給出了應(yīng)用該算法后的實(shí)驗(yàn)結(jié)果，與FIFO調(diào)度算法以及公平調(diào)度算法的對(duì)比實(shí)驗(yàn)結(jié)果表明，