針對(duì)Hadoop集群的節(jié)能調(diào)度算法研究.pdf

1、隨著云計(jì)算在企業(yè)中的廣泛使用，擁有HDFS分布式文件系統(tǒng)和分布式計(jì)算模型MapReduce的Hadoop成為了眾多 IT企業(yè)的首選。在大型企業(yè)中，Hadoop分布式集群通常由成百上千個(gè)節(jié)點(diǎn)組成，如此龐大規(guī)模的集群在長時(shí)間的運(yùn)行過程中會(huì)產(chǎn)生大量的能耗，增加了企業(yè)的成本。因此，在大規(guī)模集群中減少能耗，不僅從經(jīng)濟(jì)角度可以減少企業(yè)開支，同時(shí)也更加節(jié)能環(huán)保。
　　傳統(tǒng)的Hadoop集群在運(yùn)行過程中并沒有考慮節(jié)能問題，當(dāng)Hadoop啟動(dòng)一段時(shí)

2、間閑置時(shí)，所有節(jié)點(diǎn)長期處于工作狀態(tài)，可能產(chǎn)生大量能耗。同時(shí)，Hadoop默認(rèn)的調(diào)度算法效率較低，通常需要較長時(shí)間完成任務(wù)，較低的效率產(chǎn)生了較多的額外能耗。
　　在以往的集群節(jié)能研究中，主要是通過在集群上增加額外硬件的方法減少能耗，適用性較差。已有的集群調(diào)度算法優(yōu)化目標(biāo)也多是負(fù)載均衡，沒有考慮能耗問題，而且由于Hadoop架構(gòu)的特殊性，大部分的調(diào)度算法無法在Hadoop上直接使用。
　　本論文正是針對(duì)上述問題，以Hadoop集

3、群的相關(guān)節(jié)能調(diào)度技術(shù)為主要的研究對(duì)象，深入分析了Hadoop集群特點(diǎn)和調(diào)度器的不足之處，對(duì)如何減少Hadoop集群能耗提出來解決方案。主要研究內(nèi)容包括：首先，分析了Hadoop平臺(tái)的結(jié)構(gòu)和框架特征、Hadoop核心組件、編程模型；其次，針對(duì)Hadoop平臺(tái)的整體架構(gòu)，通過對(duì)集群進(jìn)行能耗建模，提出了一種動(dòng)態(tài)Hadoop節(jié)點(diǎn)節(jié)能管理方法，該方法在集群負(fù)載較低時(shí)，可以有效的動(dòng)態(tài)休眠部分節(jié)點(diǎn)，減少集群整體能耗；接著，針對(duì)一批Hadoop任務(wù)，通