基于MapReduce的海量點(diǎn)擊流信息挖掘研究.pdf

1、隨著互聯(lián)網(wǎng)與電子商務(wù)的快速發(fā)展,網(wǎng)站產(chǎn)生的點(diǎn)擊、商品、交易等數(shù)據(jù)呈現(xiàn)海量數(shù)據(jù)式增長。淘寶網(wǎng)(taobao.com)中的頁面每天點(diǎn)擊超過2億次以上,商品成交超過5000萬次/天。巨大的訪問量帶來了巨大的瀏覽記錄與交易記錄,挖掘這些記錄中蘊(yùn)含的用戶信息成為時下網(wǎng)站建設(shè)者們最迫切的需求。點(diǎn)擊流是用戶在一個Session會話內(nèi)點(diǎn)擊URL鏈接而被記錄的訪問路徑,挖掘點(diǎn)擊流數(shù)據(jù)可以發(fā)現(xiàn)商品頻繁點(diǎn)擊序列,并嘗試從點(diǎn)擊流的角度優(yōu)化個性化商品推薦算法。<

2、br>　　MapReduce計算模式是目前主流較為穩(wěn)定的分布式計算平臺,本文充分利用MapReduce在矩陣運(yùn)算與聚合運(yùn)算上的優(yōu)勢,改進(jìn)傳統(tǒng)挖掘算法在分布式環(huán)境下的數(shù)據(jù)共享、中間知識集吸收等問題,從而解決海量數(shù)據(jù)挖掘瓶頸,獲得挖掘效率的提升。本文的主要工作和創(chuàng)新點(diǎn)如下:
　　首先,本文使用HDFS構(gòu)建的數(shù)據(jù)倉庫+MapReduce實現(xiàn)開源分布式數(shù)據(jù)挖掘框架,采用自定義文本方式存儲海量點(diǎn)擊數(shù)據(jù),使用 MapReduce計算模式實現(xiàn)數(shù)

3、據(jù)集的投影、選擇、并、交、叉、連接等數(shù)據(jù)集操作,進(jìn)而實現(xiàn)在HDFS中進(jìn)行數(shù)據(jù)的清洗與預(yù)處理操作。
　　其次,本文提出在MapReduce數(shù)據(jù)操作基礎(chǔ)上使用點(diǎn)擊樹來還原一個完整Session會話內(nèi)的用戶點(diǎn)擊路徑,真正反映用戶最原始的點(diǎn)擊動機(jī)。在這基礎(chǔ)之上優(yōu)化原始BIDE頻繁序列模式挖掘算法,消除前綴樹生長過程中的遞歸方式,使挖掘任務(wù)在2個MapReduce任務(wù)內(nèi)就能完成。
　　最后,本文嘗試從點(diǎn)擊流數(shù)據(jù)、用戶長期偏好數(shù)據(jù)多維度