基于JVM的R語言海量數(shù)據(jù)統(tǒng)計集成框架研究.pdf

1、隨著數(shù)據(jù)規(guī)模在互聯(lián)網(wǎng)、生物、天文學(xué)等領(lǐng)域的爆炸性增長,如何有效地從這些大規(guī)模的數(shù)據(jù)集中獲取有價值信息的能力變得越發(fā)重要。R語言作為流行度最高的統(tǒng)計分析語言,它提供了豐富的數(shù)據(jù)統(tǒng)計功能,但卻無法有效的處理海量數(shù)據(jù)。針對這一問題,設(shè)計并實現(xiàn)基于JVM的R語言海量數(shù)據(jù)統(tǒng)計分析集成框架JRBridge,并以Hadoop為例在該框架上實現(xiàn)R語言與Hadoop的結(jié)合,從而一定程度上實現(xiàn)了R語言對海量數(shù)據(jù)的分布式并行統(tǒng)計能力。
　　為了利用已有

2、海量數(shù)據(jù)計算框架和編程模型的研究成果,以 R語言和海量數(shù)據(jù)計算框架的集成作為研究思路,分析了各計算框架與 R語言進(jìn)行集成的模型,總結(jié)并提出了基于SF API和UDF API的集成模型。在此模型的理論基礎(chǔ)上,針對模型實現(xiàn)中必須滿足的系統(tǒng)要求和公共組件,以及當(dāng)前流行的開源海量數(shù)據(jù)計算框架大多基于Java虛擬機(jī)實現(xiàn)的特征,為了減小R語言與各框架之間的語言鴻溝,設(shè)計并實現(xiàn)了基于JRBridge集成框架的R語言海量數(shù)據(jù)統(tǒng)計分析系統(tǒng)。其中基于JVM

3、的R語言解釋執(zhí)行機(jī)制解決了Java環(huán)境下執(zhí)行嵌入式R語言代碼的問題;R語言環(huán)境下Java類加載機(jī)制通過jload、import、$運算符實現(xiàn)了在R環(huán)境下對Java API類庫調(diào)用并執(zhí)行;R2J和J2R類型轉(zhuǎn)換機(jī)制則為存在R與Java環(huán)境切換的方法調(diào)用提供參數(shù)與返回值的類型轉(zhuǎn)換支持。上述機(jī)制的相互協(xié)作,配合R語言和Hadoop集成插件的實現(xiàn),最終使得R語言具有了對海量數(shù)據(jù)統(tǒng)計分析的能力。
　　從功能測試結(jié)果看出,通過HDFS API