基于BSP的大規(guī)模圖處理系統(tǒng)中的任務(wù)調(diào)度與同步控制.pdf

1、隨著信息化時代的到來，一些新興領(lǐng)域如社會網(wǎng)絡(luò)分析，web2.0技術(shù)分析和生物信息網(wǎng)絡(luò)分析對于解決規(guī)模圖處理問題提出了更高的要求，如要完成這些需求，就必須做到能夠同時處理10億以上的圖頂點，所以對如此大規(guī)模圖處理問題的研究和發(fā)展已經(jīng)成為計算機學科當中的新興領(lǐng)域。
　　本文對BSP模型，Hadoop，Pregel，HAMA等大規(guī)模處理領(lǐng)域技術(shù)進行了較為深入的研究，解決了基于BSP的大規(guī)模圖處理系統(tǒng)中任務(wù)調(diào)度和同步控制兩大難題，為系統(tǒng)的

2、順利開發(fā)提供了基礎(chǔ)。結(jié)合Map-Reduce的任務(wù)調(diào)度思想和BSP模型的特點，采用了一種任務(wù)推送的方式保證同一個作業(yè)的所有任務(wù)同時啟動。本文提出“負載均衡因子”概念，利用數(shù)據(jù)分片技術(shù)、數(shù)據(jù)本地化技術(shù)和負載均衡技術(shù)來實現(xiàn)對系統(tǒng)整體性能的優(yōu)化。實現(xiàn)了系統(tǒng)的任務(wù)調(diào)度策略。在Zookeeper基礎(chǔ)上，本文采取三次路障同步的方式來完成超步迭代過程中的同步控制。為了充分利用圖迭代處理的收斂性質(zhì)，本文在同步控制過程中設(shè)計了能夠根據(jù)圖當前狀態(tài)自動判斷是