基于SVm-KNN的文本分類系統(tǒng)的設(shè)計與實現(xiàn).pdf

1、隨著因特網(wǎng)的飛速發(fā)展，人們可以從網(wǎng)絡(luò)上獲取越來越多諸如文本、圖片、視頻等各種形式的信息，而其中半結(jié)構(gòu)化或無結(jié)構(gòu)化的文本信息占據(jù)了很大一部分。如何利用文本分類技術(shù)對這些文本信息進(jìn)行分門別類是非常重要的。文本分類技術(shù)在一定程度上解決了信息雜亂的問題，而且它已成為搜索引擎、垃圾郵件過濾等領(lǐng)域的基礎(chǔ)。所以，對文本分類的研究有著重要的意義。
　　本文首先介紹了中文文本分類所涉及到的相關(guān)理論，如:向量空間模型、特征選擇、分類方法、評價指標(biāo)、權(quán)

2、重計算方法以及相似度計算方法。
　　其次通過對權(quán)重計算算法TFIDF的分析研究，針對傳統(tǒng)TFIDF算法忽略特征項的在整個樣本集上各個類之間的分布情況這一不足，在傳統(tǒng)算法中增加了表示特征項在各個類間的分布情況的不均衡變量以及表示類內(nèi)各個文本間分布情況的參數(shù)，使改進(jìn)后的權(quán)重計算方法更能夠體現(xiàn)出特征項的類別貢獻(xiàn)率。對信息增益特征選擇方法進(jìn)行了分析，針對信息增益方法在樣本集不均勻時，性能大幅下降的缺點，引入了體現(xiàn)特征項類別表征能力的分散度

3、和集中度兩個變量，使信息增益方法進(jìn)一步提升性能。對KNN和SVM分類方法進(jìn)行了分析，在此基礎(chǔ)上，針對SVM方法在最優(yōu)分界面附近分類準(zhǔn)確度降低的缺點和KNN分類速度慢的缺點，提出了SVM-KNN分類方法，提高了分類精度和速度。并針對該算法在樣本分布不平衡時存在的不足之處，加入了懲罰機(jī)制，進(jìn)行了改進(jìn)。
　　在理論研究的基礎(chǔ)上，構(gòu)建了一個包括預(yù)處理模塊、權(quán)重計算和特征選擇模塊、分類模塊以及性能評測模塊四個功能模塊的中文文本分類系統(tǒng)，用C