基于數(shù)據(jù)挖掘技術(shù)的垃圾文本識(shí)別研究.pdf

1、隨著Web2.0應(yīng)用的深入發(fā)展，互聯(lián)網(wǎng)已經(jīng)進(jìn)入了一個(gè)全民創(chuàng)造信息的時(shí)代，但同時(shí)也是一個(gè)信息泛濫的時(shí)代。文本、視訊等技術(shù)的日新月異極大擴(kuò)展了我們創(chuàng)造內(nèi)容的能力；論壇、微博等用戶(hù)原創(chuàng)型應(yīng)用又提供了眾多信息分享的平臺(tái)。這些極大地豐富了網(wǎng)絡(luò)中原創(chuàng)文本內(nèi)容，但在吸引眾多用戶(hù)瀏覽和分享的同時(shí)，也吸引了垃圾信息的發(fā)布。不論出于商業(yè)利益或者政治目的，這些行為導(dǎo)致很多論壇、熱點(diǎn)博客的回復(fù)區(qū)、個(gè)人空間的留言板、微博的私信中等幾乎所有支持文本發(fā)布功能并能吸引

2、公眾注意力的地方都充斥著垃圾信息。此類(lèi)信息多以文本內(nèi)容的形式出現(xiàn)，如何挖掘出其中潛藏的，沒(méi)有價(jià)值的信息，保持?jǐn)?shù)據(jù)的有效性和可用性，為用戶(hù)提供一個(gè)干凈的網(wǎng)絡(luò)環(huán)境，是當(dāng)前迫切需要解決的重要問(wèn)題。
　　本文提出了垃圾文本定義和垃圾文本識(shí)別概念，分析了垃圾文本形式、危害、防范方法及通用識(shí)別方法。在Hadoop集群構(gòu)建的實(shí)驗(yàn)平臺(tái)上，基于某公司的真實(shí)數(shù)據(jù)集，展開(kāi)了將文本挖掘和用戶(hù)行為挖掘應(yīng)用于垃圾文本識(shí)別的一系列研究。通過(guò)對(duì)相關(guān)算法的改進(jìn)提出

3、了：顧盼算法，解決了熱詞問(wèn)題，有效降低屬性間依賴(lài)關(guān)系，提升了樸素貝葉斯算法的整體性能；往返折半逼近算法，可快速將屬性子集大小逼近理想狀況；擇優(yōu)算法，解決了掩飾性垃圾文本較難識(shí)別的問(wèn)題，有效提升了模型的召回率；首尾哈希算法，有效解決大規(guī)模長(zhǎng)文本匹配中計(jì)算、存儲(chǔ)代價(jià)過(guò)高問(wèn)題。
　　最后，從實(shí)驗(yàn)結(jié)果數(shù)據(jù)分析，上述算法在模型性能提升上均有較明顯效果。論文還對(duì)文本挖掘與用戶(hù)行為挖掘性能差異研究分析，論述了二者結(jié)合使用的可能性。論文還實(shí)現(xiàn)了部