基于改進(jìn)KNN的文本分類算法的設(shè)計(jì)與實(shí)現(xiàn).pdf

1、隨著互聯(lián)網(wǎng)上信息量的爆炸式增長,電子文本信息也隨之大量增加。如何有效地管理電子文本信息也成為了當(dāng)今信息科學(xué)技術(shù)日益重要的一大課題。而文本自動(dòng)分類,作為一種有效的提高文本檢索速度和準(zhǔn)確率的方法,在電子文本信息管理中起著非常重要的作用。目前比較常用的文本分類技術(shù)主要有：向量空間模型(VSM)、K個(gè)最近鄰法(KNN)、神經(jīng)網(wǎng)絡(luò)(NNet)、支持向量機(jī)(SVMs)和貝葉斯算法(Bayes)等。而KNN算法是一種簡單,但是非常有效的文本分類算法,

2、有著廣泛的應(yīng)用。論文首先介紹文本分類技術(shù)的歷史與現(xiàn)狀,然后詳細(xì)介紹了KNN算法作為一種非常簡單有效的文本分類算法,在文本分類技術(shù)中的廣泛運(yùn)用。傳統(tǒng)KNN算法往往運(yùn)用非監(jiān)督的權(quán)重分配方法對(duì)特征項(xiàng)的特征項(xiàng)分配權(quán)重,一定程度上影響了距離測(cè)度計(jì)算的精確性。文章針對(duì)傳統(tǒng)權(quán)重分配算法的不足,采取x 2統(tǒng)計(jì)量方法和信息增益這兩種監(jiān)督權(quán)重分配方法,有效地利用了訓(xùn)練集標(biāo)簽信息,提高了KNN算法的精確度。隨后,論文針對(duì)傳統(tǒng)KNN算法計(jì)算量過大的缺點(diǎn),引入了

3、生成代表樣本集的方法,對(duì)原始訓(xùn)練集進(jìn)行裁剪并予以取代,從而減少了分類系統(tǒng)的計(jì)算量,有效地提高了系統(tǒng)的效率。最后,論文采用了Reuters-21578文檔集作為訓(xùn)練集和測(cè)試集,分別應(yīng)用了傳統(tǒng)的非監(jiān)督權(quán)重分配方法(布爾權(quán)重,TF-IDF),以及改進(jìn)的監(jiān)督權(quán)重分配方法(x 2統(tǒng)計(jì)量方法和信息增益)進(jìn)行KNN分類算法精確度的比較,驗(yàn)證了監(jiān)督權(quán)重分配方法對(duì)于提高文本分類算法精確度的作用。另外,還對(duì)基于傳統(tǒng)KNN算法的分類器與基于改進(jìn)的使用代表樣本