基于BSP模型的大圖處理系統(tǒng)數(shù)據(jù)劃分模塊的設(shè)計與實現(xiàn).pdf

1、由于圖數(shù)據(jù)量的增長在圖上計算提取知識變得越來越具有挑戰(zhàn)性?，F(xiàn)在的圖數(shù)據(jù)集變的非常巨大，如FaceBook、twitter、人人網(wǎng)等的數(shù)據(jù)。傳統(tǒng)的圖處理工具難以完成這些計算。急需開發(fā)新的處理系統(tǒng)用于海量圖數(shù)據(jù)的計算。Google基于BSP批量同步模型開發(fā)了Pregel大圖處理系統(tǒng)。這為設(shè)計開發(fā)圖處理系統(tǒng)提供了思路。而當(dāng)今最為流行的云計算技術(shù)為此提供了技術(shù)支持。然而任何圖處理系統(tǒng)都不能避免一個早已存在的問題即圖分割的問題。特別是云計算環(huán)境下

2、分布式并行處理需要對處理的數(shù)據(jù)進(jìn)行劃分為多個分區(qū)。數(shù)據(jù)被分割為多個分區(qū)由集群中的計算節(jié)點并行處理。如何實現(xiàn)一個好的劃分依然是一個難點和極大的挑戰(zhàn)。
　　為了解決上述問題，我們借鑒分布式平行處理系統(tǒng)云計算編程模型Hadoop設(shè)計思路，基于BSP模型開發(fā)了一個可以進(jìn)行大圖處理的圖處理系統(tǒng)。本文主要討論系統(tǒng)其中數(shù)據(jù)劃分模塊設(shè)計與實現(xiàn)。本文主要貢獻(xiàn)如下。第一，我們分析圖計算特點，借鑒現(xiàn)有圖處理系統(tǒng)的設(shè)計思路設(shè)計實現(xiàn)了數(shù)據(jù)劃分模塊。提供了完

3、善的用戶接口，用戶可以靈活的設(shè)置?？梢赃x擇使用默認(rèn)的劃分策略或者根據(jù)接口定制他們自己的劃分算法。已經(jīng)整合到系統(tǒng)中并且工作良好;第二，我們實現(xiàn)了三個圖數(shù)據(jù)劃分算法，即基于MD5Hash的數(shù)據(jù)劃分算法、針對取模Hash基于虛擬分區(qū)的平衡優(yōu)化算法、Range劃分算法;第三，我們實現(xiàn)了對多存儲系統(tǒng)輸入格式的支持。對比分析HDFS和HBase的存儲設(shè)計的相似性，整合了HDFS及HBase輸入格式并提供了統(tǒng)一的接口設(shè)計。提供了默認(rèn)的輸入格式，同時用

4、戶根據(jù)他們的需求定制自己的輸入格式;第四，為圖算法的實現(xiàn)提供了必備的支撐部件，如，基于RPC的多線程數(shù)據(jù)并行發(fā)送、環(huán)形緩沖區(qū)、全局同步及優(yōu)化器等。
　　實驗結(jié)果和實際應(yīng)用表明實現(xiàn)的大圖處理系統(tǒng)中數(shù)據(jù)劃分模塊達(dá)到了系統(tǒng)設(shè)計的目標(biāo)。具有良好的可擴(kuò)展性和穩(wěn)定性。我們從負(fù)載均衡、通信開銷、時間開銷三個方面對比分析了三種不同的數(shù)據(jù)劃分算法的性能。結(jié)果表明優(yōu)化的hash相對與未優(yōu)化的具有較好的性能。數(shù)據(jù)集較好局部聚集特性的情況下Range劃分