基于Hadoop的分布加權(quán)FP-tree算法的研究.pdf

1、關(guān)聯(lián)規(guī)則挖掘(ARM)是數(shù)據(jù)庫(kù)知識(shí)發(fā)現(xiàn)中的一個(gè)重要課題。自ARM思想出現(xiàn)以來(lái),為了提高挖掘的性能,研究人員提出了很多ARM算法。但是,隨著當(dāng)今網(wǎng)絡(luò)的發(fā)展,用戶數(shù)據(jù)和知識(shí)指數(shù)級(jí)增長(zhǎng),同時(shí),這些數(shù)據(jù)的重要程度又存在很大差別,因此,如何在海量數(shù)據(jù)中挖掘出用戶真正需求的關(guān)聯(lián)規(guī)則,是關(guān)聯(lián)規(guī)則挖掘的一個(gè)新的難題。
　　由于數(shù)據(jù)庫(kù)中數(shù)據(jù)重要程度不同時(shí),而傳統(tǒng)ARM算法沒(méi)有考慮數(shù)據(jù)的權(quán)重,因此傳統(tǒng)的ARM算法不再滿足實(shí)際需求。而且在處理大數(shù)據(jù)集時(shí)

2、,原有的串行ARM算法計(jì)算量大,I/O資源消耗嚴(yán)重,在內(nèi)存和計(jì)算消耗方面都會(huì)遇到瓶頸,無(wú)法在海量數(shù)據(jù)集中挖掘出關(guān)聯(lián)規(guī)則。
　　本文在研究了多種串行ARM算法的基礎(chǔ)上,提出了一種基于Hadoop的分布加權(quán)關(guān)聯(lián)規(guī)則挖掘(HWARM: Weighted Association Rule Mining on Hadoop)算法。該算法滿足加權(quán)向下封閉性,解決了傳統(tǒng)ARM算法無(wú)法挖掘不同權(quán)重?cái)?shù)據(jù)的問(wèn)題,使用Hadoop這一分布式計(jì)算平臺(tái)并行