基于SVM的文本分類系統(tǒng)中特征選擇與.pdf

1、近年來，隨著互聯(lián)網(wǎng)技術(shù)的飛快發(fā)展，人們已經(jīng)從信息較為缺乏的時(shí)代過渡到信息豐富的數(shù)字化時(shí)代。面對(duì)如此龐大的電子信息，如何在較短的時(shí)間內(nèi)獲取對(duì)用戶有用的信息也就成為當(dāng)前的一個(gè)研究熱點(diǎn)。文本分類技術(shù)是數(shù)據(jù)挖掘領(lǐng)域中的一項(xiàng)關(guān)鍵技術(shù)，它能夠幫助用戶快速、準(zhǔn)確地定位所需要的信息。同時(shí)該技術(shù)作為信息過濾和搜索引擎的基礎(chǔ)，有著廣泛的發(fā)展前景，能夠?yàn)樯鐣?huì)帶來巨大的經(jīng)濟(jì)效益。文本分類的任務(wù)是將待分類的文本對(duì)象根據(jù)其具體內(nèi)容自動(dòng)劃分到事先設(shè)置的類別內(nèi)。它的研

2、究?jī)?nèi)容主要包括文本預(yù)處理、特征選擇、特征項(xiàng)權(quán)重計(jì)算、文本表示、分類器的訓(xùn)練與測(cè)試以及分類性能評(píng)價(jià)六個(gè)模塊。其中特征選擇和權(quán)重計(jì)算在文本分類技術(shù)中有著非常關(guān)鍵的作用。
　　 本研究主要內(nèi)容包括：⑴特征選擇的目的是從原始的高維特征空間中，選取出對(duì)分類貢獻(xiàn)程度大的特征來表示文本。經(jīng)典的特征選擇算法在統(tǒng)計(jì)特征項(xiàng)和類別之間的關(guān)聯(lián)性信息時(shí)，僅僅考慮了特征項(xiàng)對(duì)文本分類的能力，卻沒有考慮特征項(xiàng)之間的相關(guān)性信息，因此使得具有同義或近義現(xiàn)象的特征項(xiàng)

3、都被選擇出來表示文本，降低了分類的準(zhǔn)確度。鑒于此缺點(diǎn)，本文提出了一種新的特征選擇算法----組合特征選擇算法。該算法首先通過文本證據(jù)權(quán)重方法選擇出一些對(duì)文本分類貢獻(xiàn)程度大的特征項(xiàng)；其次通過互信息方法刪減了一些在文本分類方面有冗余信息的特征項(xiàng)。⑵經(jīng)典的TP-IDF權(quán)重計(jì)算方法只考慮了特征詞頻率TF和反比文檔頻率IDF，沒有考慮特征項(xiàng)的類別分布和位置分布對(duì)分類的影響。因此本文在經(jīng)典權(quán)重算法TF-IDF的基礎(chǔ)上，結(jié)合特征詞的類別分布與位置分布