基于Spark平臺推薦系統(tǒng)研究.pdf

1、現(xiàn)代互聯(lián)網(wǎng)的高速發(fā)展產(chǎn)生了大量富有價值的互聯(lián)網(wǎng)信息，如何從海量的數(shù)據(jù)中挖掘出有用的信息是具有重大意義的課題。大數(shù)據(jù)平臺的研究與發(fā)展就是在這一背景下興起。Hadoop的誕生使人們關(guān)注Map Red uce這一計(jì)算模式的研究，而Spark通過引入RDD數(shù)據(jù)模型及基于內(nèi)存的運(yùn)算模式，使其能很好地適應(yīng)大數(shù)據(jù)的數(shù)據(jù)挖掘這一場景，并且在迭代計(jì)算方面優(yōu)于Hadoop，迅速成為了廣大企業(yè)、學(xué)者的研究重點(diǎn)。推薦系統(tǒng)是一種從海量用戶行為數(shù)據(jù)中挖掘有用信息并

2、提供給用戶的應(yīng)用，推薦系統(tǒng)中推薦算法的實(shí)現(xiàn)是數(shù)據(jù)挖掘的重要部分?；趥鹘y(tǒng)計(jì)算機(jī)的推薦算法實(shí)現(xiàn)過程需要耗費(fèi)大量的時間，不能滿足當(dāng)今的商業(yè)需求，而結(jié)合分布式計(jì)算平臺的并行化實(shí)現(xiàn)能有效解決這一問題，并且推薦算法實(shí)現(xiàn)過程中存在多次迭代計(jì)算，Spark的出現(xiàn)正是迎合了推薦算法并行化實(shí)現(xiàn)這一需求。
　　鑒于目前國內(nèi)外基于Spark平臺的各類應(yīng)用的發(fā)展趨勢，本文將基于Spark平臺對推薦算法相關(guān)技術(shù)進(jìn)行研究，主要包括以下兩個方面:
　　(

3、1)基于Spark平臺推薦算法并行化研究。在對Spark平臺及推薦系統(tǒng)相關(guān)技術(shù)研究基礎(chǔ)上，首先對基于Spark平臺推薦算法并行化實(shí)現(xiàn)過程進(jìn)行了設(shè)計(jì)，詳細(xì)分析了算法在提交后集群節(jié)點(diǎn)的作用及任務(wù)的分配情況;其次對基于Spark平臺推薦算法并行化進(jìn)行實(shí)現(xiàn)，主要實(shí)現(xiàn)了基于用戶的協(xié)同過濾、基于物品的協(xié)同過濾及基于ALS模型推薦算法，給出了詳細(xì)的并行化實(shí)現(xiàn)過程，并加以分析;最后以實(shí)例的形式詳細(xì)分析了Spark存算法實(shí)現(xiàn)過程中，如何進(jìn)行數(shù)據(jù)及任務(wù)的并

4、行化。
　　(2)基于Spark平臺并行化實(shí)現(xiàn)的優(yōu)化。優(yōu)化主要包括兩個方面:平臺的優(yōu)化及推薦算法的優(yōu)化。在推薦算法并行化實(shí)現(xiàn)過程中，發(fā)現(xiàn)Spark集群節(jié)點(diǎn)異構(gòu)情況下，存在任務(wù)調(diào)度不合理問題，提出異構(gòu)Spark集群自適應(yīng)任務(wù)調(diào)度策略HSATS?；卩徲蛲扑]算法優(yōu)化方面，提出對用戶或物品的隱含標(biāo)簽屬性進(jìn)行向量化，并最終與相似度計(jì)算進(jìn)行融合?；贏LS模型推薦算法方面，設(shè)計(jì)了一種新的損失函數(shù)，將模型訓(xùn)練前的用戶及物品相似性信息融合進(jìn)去。