大圖數(shù)據(jù)啟發(fā)式劃分與管理及在BC-BSP系統(tǒng)中的應(yīng)用研究.pdf

1、隨著社會(huì)的高速發(fā)展，圖數(shù)據(jù)變的越來越大，如facebook、微博、人人網(wǎng)等社交網(wǎng)絡(luò)及創(chuàng)新基因序列等。傳統(tǒng)的圖處理系統(tǒng)在處理這些基于大數(shù)據(jù)集上的計(jì)算時(shí)都存在明顯的短板，因此，急需開發(fā)一種高效、穩(wěn)定的處理系統(tǒng)用于海量圖數(shù)據(jù)的計(jì)算。圖數(shù)據(jù)劃分是基于BSP編程模型的大規(guī)模圖處理系統(tǒng)需要解決的重要問題之一。特別在云計(jì)算環(huán)境下，由于數(shù)據(jù)規(guī)模過大，更需要將圖數(shù)據(jù)劃分為多個(gè)分區(qū)，交由集群中的計(jì)算節(jié)點(diǎn)并行處理。然而，現(xiàn)有的圖劃分方法大多需要多次迭代，時(shí)間

2、復(fù)雜度過高，且結(jié)果不保留頂點(diǎn)到分區(qū)的映射，并不適用于BSP模型下的圖數(shù)據(jù)劃分。此外，在實(shí)際應(yīng)用中，由于圖數(shù)據(jù)基本固定，重復(fù)進(jìn)行圖劃分操作降低了系統(tǒng)運(yùn)行效率。因此，如何實(shí)現(xiàn)快速的劃分以及如何進(jìn)行劃分管理，具有極大的挑戰(zhàn)。
　　為此，項(xiàng)目組基于BSP模型、借鑒云計(jì)算編程模型Hadoop，開發(fā)了可進(jìn)行大圖計(jì)算的圖處理系統(tǒng)BC-BSP。本文主要設(shè)計(jì)并實(shí)現(xiàn)系統(tǒng)的數(shù)據(jù)劃分模塊下的數(shù)據(jù)劃分算法。主要貢獻(xiàn)如下:(1)設(shè)計(jì)基于啟發(fā)式規(guī)則的劃分算法D

3、HP和C-DHP。在這兩種算法中引入了頂點(diǎn)收益的概念。前者引入了虛擬桶的概念，兩次應(yīng)用頂點(diǎn)收益策略，達(dá)到保留原數(shù)據(jù)局部拓?fù)湫缘男Ч?。后者對其進(jìn)行了優(yōu)化:首先對圖數(shù)據(jù)進(jìn)行聚類，再使用頂點(diǎn)放置收益策略進(jìn)行劃分，最后進(jìn)行在線合并。(2)實(shí)現(xiàn)分區(qū)管理，為后續(xù)合并和計(jì)算打下基礎(chǔ)。(3)設(shè)計(jì)實(shí)現(xiàn)了在線合并算法，并實(shí)現(xiàn)了分區(qū)的一次劃分多次使用。在BC-BSP系統(tǒng)啟動(dòng)時(shí)獲取本次作業(yè)的任務(wù)數(shù)，并將分區(qū)進(jìn)行在線合并，達(dá)到一次劃分、多次使用的目的。(4)通過