大圖數(shù)據(jù)啟發(fā)式劃分與管理及在BC-BSP系統(tǒng)中的應用研究.pdf

1、隨著社會的高速發(fā)展，圖數(shù)據(jù)變的越來越大，如facebook、微博、人人網(wǎng)等社交網(wǎng)絡(luò)及創(chuàng)新基因序列等。傳統(tǒng)的圖處理系統(tǒng)在處理這些基于大數(shù)據(jù)集上的計算時都存在明顯的短板，因此，急需開發(fā)一種高效、穩(wěn)定的處理系統(tǒng)用于海量圖數(shù)據(jù)的計算。圖數(shù)據(jù)劃分是基于BSP編程模型的大規(guī)模圖處理系統(tǒng)需要解決的重要問題之一。特別在云計算環(huán)境下，由于數(shù)據(jù)規(guī)模過大，更需要將圖數(shù)據(jù)劃分為多個分區(qū)，交由集群中的計算節(jié)點并行處理。然而，現(xiàn)有的圖劃分方法大多需要多次迭代，時間

2、復雜度過高，且結(jié)果不保留頂點到分區(qū)的映射，并不適用于BSP模型下的圖數(shù)據(jù)劃分。此外，在實際應用中，由于圖數(shù)據(jù)基本固定，重復進行圖劃分操作降低了系統(tǒng)運行效率。因此，如何實現(xiàn)快速的劃分以及如何進行劃分管理，具有極大的挑戰(zhàn)。
　　為此，項目組基于BSP模型、借鑒云計算編程模型Hadoop，開發(fā)了可進行大圖計算的圖處理系統(tǒng)BC-BSP。本文主要設(shè)計并實現(xiàn)系統(tǒng)的數(shù)據(jù)劃分模塊下的數(shù)據(jù)劃分算法。主要貢獻如下:(1)設(shè)計基于啟發(fā)式規(guī)則的劃分算法D

3、HP和C-DHP。在這兩種算法中引入了頂點收益的概念。前者引入了虛擬桶的概念，兩次應用頂點收益策略，達到保留原數(shù)據(jù)局部拓撲性的效果。后者對其進行了優(yōu)化:首先對圖數(shù)據(jù)進行聚類，再使用頂點放置收益策略進行劃分，最后進行在線合并。(2)實現(xiàn)分區(qū)管理，為后續(xù)合并和計算打下基礎(chǔ)。(3)設(shè)計實現(xiàn)了在線合并算法，并實現(xiàn)了分區(qū)的一次劃分多次使用。在BC-BSP系統(tǒng)啟動時獲取本次作業(yè)的任務(wù)數(shù)，并將分區(qū)進行在線合并，達到一次劃分、多次使用的目的。(4)通過