KNN文本分類中特征詞權(quán)重算法的研究.pdf

1、太原理工大學(xué)碩士學(xué)位論文KNN文本分類中特征詞權(quán)重算法的研究姓名：趙小華申請(qǐng)學(xué)位級(jí)別：碩士專業(yè)：計(jì)算機(jī)應(yīng)用技術(shù)指導(dǎo)教師：馬建芬20100401太原理工大學(xué)碩士研究生學(xué)位論文II通過(guò)實(shí)驗(yàn)中不同類別的微查準(zhǔn)率比較不同特征權(quán)值計(jì)算公式對(duì)單個(gè)類別的分類效果的影響。通過(guò)實(shí)驗(yàn)我們可以得出以下結(jié)論：改進(jìn)后的TFCHI的權(quán)值計(jì)算公式對(duì)于類別的分類效果不論在查全率上還是查準(zhǔn)率上都是最差的，而TFIDFCHI的權(quán)值計(jì)算公式與傳統(tǒng)的TFIDF公式從總體上看差

2、別不大，但是通過(guò)仔細(xì)研究可以發(fā)現(xiàn)改進(jìn)后的權(quán)值計(jì)算方法對(duì)原本就已經(jīng)有高查準(zhǔn)率的類別的影響不是很大，但是它對(duì)原本分類效果不太好的類別的分類效果有著很大的改善。(3)分別選取互信息、期望交叉熵、信息增益、文本證據(jù)權(quán)、和CHI概率統(tǒng)計(jì)等不同的特征選擇算法，再分別選取TFIDF、TF特征選擇函數(shù)、TFIDF特征選擇函數(shù)等不同的權(quán)值計(jì)算方法，利用KNN分類模型，進(jìn)行對(duì)比實(shí)驗(yàn)，比較改進(jìn)的特征項(xiàng)權(quán)值計(jì)算方法對(duì)最終分類效果的影響。我們通過(guò)實(shí)驗(yàn)可以看出，無(wú)

3、論是哪種特征選擇函數(shù)，當(dāng)特征權(quán)值計(jì)算函數(shù)選為TF特征選擇函數(shù)時(shí)，它的分類效果都低于權(quán)值計(jì)算函數(shù)為TFIDF和TFIDF特征選擇函數(shù)的情況。除了信息增益之外，5種特征選擇函數(shù)中的其它任一種，TFIDF特征選擇函數(shù)時(shí)的分類準(zhǔn)確率要比原來(lái)的TFIDF高。這種情況說(shuō)明，并不能武斷的說(shuō)一定哪種特征選擇算法或者權(quán)值計(jì)算方法一定好，而是要看特征選擇算法和權(quán)值算法的組合，只有搭配合適才能發(fā)揮其優(yōu)勢(shì)，優(yōu)化分類效果。關(guān)鍵詞：文本分類，特征選擇，特征權(quán)重，K