基于神經(jīng)網(wǎng)絡(luò)和詞共現(xiàn)模型的垃圾郵件分類器研究.pdf

1、互聯(lián)網(wǎng)已經(jīng)成為現(xiàn)代生活中不可分割的一部分,互聯(lián)網(wǎng)時代人們之間的聯(lián)系交流日益緊密,電子郵件作為非常重要的非即時聯(lián)系方式,顯示出越來越高的重要性。但是由于電子郵件現(xiàn)有的收發(fā)協(xié)議的缺陷以及利益的驅(qū)使,導(dǎo)致了目前互聯(lián)網(wǎng)上垃圾郵件泛濫成災(zāi)。越來越多的垃圾郵件侵占了有限的存儲、計算和網(wǎng)絡(luò)資源,耗費了用戶大量的處理時間,影響和干擾了用戶的正常工作、生活和學(xué)習(xí)。如何有效地治理垃圾郵件問題是全世界共同面臨的一道難題,也是目前互聯(lián)網(wǎng)上亟待解決的問題。

2、>　　目前,經(jīng)常采用的垃圾郵件過濾技術(shù)一般包括白名單與黑名單技術(shù)、基于規(guī)則的過濾以及基于關(guān)鍵詞匹配的內(nèi)容掃描等。另外還有一個研究方向就是從電子郵件的文本內(nèi)容入手,使用文本分類算法,對郵件進行分類。垃圾郵件過濾中常用的文本分類方法有簡單貝葉斯、k-近鄰、決策樹等。近年來隨著小型計算機性能的提高,基于神經(jīng)網(wǎng)絡(luò)的分類方法研究也越來越多。張鈴和張鈸教授于1999提出的交叉覆蓋算法,也是神經(jīng)網(wǎng)絡(luò)算法的一種。交叉覆蓋算法是利用了M-P神經(jīng)元模型的幾

3、何意義得到的一種領(lǐng)域覆蓋的算法,它在一定意義上考慮到了網(wǎng)絡(luò)結(jié)構(gòu)的優(yōu)化問題,可以使得產(chǎn)生的神經(jīng)網(wǎng)絡(luò)的規(guī)模較小,而且方法實用、可行,解決了多年以來一直未能很好解決的前向網(wǎng)絡(luò)設(shè)計問題。
　　傳統(tǒng)的基于內(nèi)容識別的垃圾郵件過濾方法主要采用向量空間模型來表示郵件文檔。向量空間模型假設(shè)詞與詞間不相關(guān),以向量來表示文本,從而簡化了文本中的關(guān)鍵詞之間的復(fù)雜關(guān)系,文檔用十分簡單的向量表示,使得模型具備了可計算性。向量空間模型把文檔簡化為以詞為單位的項

4、,每項都有權(quán)重,項即是向量空間中的維度,權(quán)重即是維度的大小。這樣每篇文檔就被表示為一個n維空間中的向量,就可以通過空間向量的運算來處理文檔,使得問題的復(fù)雜性大大降低。但是這種表示方法是以詞與詞之間不相關(guān)為前提,模型沒有考慮文檔中上下文詞語之間的語義聯(lián)系。而詞共現(xiàn)模型是一種以統(tǒng)計為基礎(chǔ)的自然語言處理模型,研究發(fā)現(xiàn),兩個詞經(jīng)常共同出現(xiàn)在文檔的同一窗口單元(如一句話、一個自然段等),則可以認為這兩個詞在意義上是相互關(guān)聯(lián)的,并且共現(xiàn)的概率越高,

5、其相互關(guān)聯(lián)越緊密?；谶@樣的思想,本文將傳統(tǒng)的向量空間模型和詞共現(xiàn)模型結(jié)合起來表示郵件文檔,在傳統(tǒng)方法的基礎(chǔ)上,增加使用詞共現(xiàn)模型選取出的一部分詞共同構(gòu)成向量空間來表示郵件,再采用交叉覆蓋算法構(gòu)建垃圾郵件過濾分類器。實驗表明,本文提出的方法能夠提高郵件過濾的性能。
　　縱觀全文,主要做了以下工作:
　　1)分析了現(xiàn)有的郵件過濾技術(shù),并做了歸納總結(jié)。
　　2)提出了基于詞共現(xiàn)模型和向量空間模型的郵件表示方法,以及在此基礎(chǔ)