基于Spark的分布式社區(qū)發(fā)現(xiàn)算法設(shè)計與實現(xiàn).pdf

1、近年來，互聯(lián)網(wǎng)上社交應用越來越多，人們之間形成的社會化網(wǎng)絡(luò)結(jié)構(gòu)呈現(xiàn)出復雜網(wǎng)絡(luò)的特征。社區(qū)發(fā)現(xiàn)是研究復雜網(wǎng)絡(luò)中節(jié)點關(guān)系的重要方法，對重疊社區(qū)結(jié)構(gòu)的研究更是此領(lǐng)域的重點與難點。目前大多數(shù)的重疊社區(qū)發(fā)現(xiàn)算法得到的結(jié)果還不夠準確，并且針對目前大規(guī)模的網(wǎng)絡(luò)結(jié)構(gòu)，單機算法已不能高效處理。通過研究發(fā)現(xiàn)，節(jié)點處在的位置不同、鄰居節(jié)點數(shù)目不同等信息都會對它在網(wǎng)絡(luò)圖中的重要性造成影響，節(jié)點的重要性對社區(qū)的構(gòu)造也具有很大影響。為此，本文結(jié)合這一特性對標簽傳播

2、算法進行深入研究和改進，以提高方法準確性及效率，并將改進算法在分布式集群環(huán)境下實現(xiàn)。
　　論文的研究工作得到了國家自然科學基金項目(No.61271308、61172072、61401015)及北京市教育委員會研究生學科建設(shè)項目的支持。主要工作如下:
　　針對國內(nèi)外社區(qū)發(fā)現(xiàn)算法、節(jié)點重要性排序進行研究，在重疊社區(qū)發(fā)現(xiàn)算法COPRA(Community Overlap PRopagation Algorithm)的基礎(chǔ)上，提出

3、基于節(jié)點重要性的標簽傳播算法NI-COPRA(Node Importance-Community Overlap PRopagation Algorithm)。用邊緣節(jié)點刪除方法對網(wǎng)絡(luò)中節(jié)點進行重要性排序，并用前k個節(jié)點構(gòu)造初始團，作為標簽傳播的初始單位。通過實驗確定k的最佳范圍。在傳播階段，根據(jù)重要性排序?qū)鞑ヒ?guī)則進行改進，避免了逆流現(xiàn)象并且大大提高了準確性和效率。最后通過人工合成網(wǎng)絡(luò)和真實網(wǎng)絡(luò)數(shù)據(jù)集進行算法的效能驗證實驗，并與幾個經(jīng)

4、典社區(qū)發(fā)現(xiàn)算法在執(zhí)行時間與發(fā)現(xiàn)結(jié)果質(zhì)量兩方面做比較。
　　針對大規(guī)模網(wǎng)絡(luò)環(huán)境，研究Spark分布式技術(shù)，將NI-COPRA在Spark分布式環(huán)境中進行并行化設(shè)計，并加以實現(xiàn)?？紤]到現(xiàn)有工具Spark擁有支持內(nèi)存計算、多迭代批量處理、圖計算等多種功能，能夠極大地提升大數(shù)據(jù)處理的效率和準確性，因此將算法進行并行化改進以適應發(fā)展需求。首先搭建Spark分布式計算集群，并構(gòu)建Spark開發(fā)環(huán)境，然后將本文提出的算法NI-COPRA進行并行