KNN文本分類中特征詞權重算法的研究.pdf

1、太原理工大學碩士學位論文KNN文本分類中特征詞權重算法的研究姓名：趙小華申請學位級別：碩士專業(yè)：計算機應用技術指導教師：馬建芬20100401太原理工大學碩士研究生學位論文II通過實驗中不同類別的微查準率比較不同特征權值計算公式對單個類別的分類效果的影響。通過實驗我們可以得出以下結(jié)論：改進后的TFCHI的權值計算公式對于類別的分類效果不論在查全率上還是查準率上都是最差的，而TFIDFCHI的權值計算公式與傳統(tǒng)的TFIDF公式從總體上看差

2、別不大，但是通過仔細研究可以發(fā)現(xiàn)改進后的權值計算方法對原本就已經(jīng)有高查準率的類別的影響不是很大，但是它對原本分類效果不太好的類別的分類效果有著很大的改善。(3)分別選取互信息、期望交叉熵、信息增益、文本證據(jù)權、和CHI概率統(tǒng)計等不同的特征選擇算法，再分別選取TFIDF、TF特征選擇函數(shù)、TFIDF特征選擇函數(shù)等不同的權值計算方法，利用KNN分類模型，進行對比實驗，比較改進的特征項權值計算方法對最終分類效果的影響。我們通過實驗可以看出，無

3、論是哪種特征選擇函數(shù)，當特征權值計算函數(shù)選為TF特征選擇函數(shù)時，它的分類效果都低于權值計算函數(shù)為TFIDF和TFIDF特征選擇函數(shù)的情況。除了信息增益之外，5種特征選擇函數(shù)中的其它任一種，TFIDF特征選擇函數(shù)時的分類準確率要比原來的TFIDF高。這種情況說明，并不能武斷的說一定哪種特征選擇算法或者權值計算方法一定好，而是要看特征選擇算法和權值算法的組合，只有搭配合適才能發(fā)揮其優(yōu)勢，優(yōu)化分類效果。關鍵詞：文本分類，特征選擇，特征權重，K