文本分類中基于概念聚合的KNN算法優(yōu)化問(wèn)題研究.pdf

1、隨著知識(shí)經(jīng)濟(jì)時(shí)代的到來(lái)，信息已成為這個(gè)時(shí)代的最重要標(biāo)志之一，對(duì)于信息的獲取與管理也越來(lái)越得到重視。信息的表現(xiàn)形式也從最初的結(jié)構(gòu)化、半結(jié)構(gòu)化逐漸向非結(jié)構(gòu)化過(guò)渡。對(duì)于非結(jié)化信息的組織和處理顯得越來(lái)越重要，文本分類作為其中的關(guān)鍵技術(shù)之一，已廣泛用于信息檢索，知識(shí)挖掘和管理等領(lǐng)域，但對(duì)于海量的文本信息，文本分類的效率與精確度嚴(yán)重制約著它在即時(shí)領(lǐng)域的應(yīng)用和推廣。
　　 當(dāng)前較常用的文本分類算法主要是基于統(tǒng)計(jì)的，較著名的有貝葉斯(Bayes

2、)、K最鄰近法(KNN)、支持向量機(jī)(SVM)、神經(jīng)元網(wǎng)絡(luò)(Nnet)等。其中，KNN作為一種簡(jiǎn)單、高效、非參數(shù)的方法，取得了較好的分類效果，使其得到較為廣泛的應(yīng)用。但KNN算法的大計(jì)算量限制了它在即時(shí)領(lǐng)域的應(yīng)用，因此如何有效地提高KNN算法的分類效率得到了學(xué)者們的廣泛關(guān)注。本文的研究重點(diǎn)是如何在不犧牲分類精度的前提下，提高文本分類的效率。
　　 本文首先提出了概念聚合，在概念聚合的基礎(chǔ)上提出文本特征位串和特征多類別矩陣兩種方式

3、，從不同的角度來(lái)提高文本的分類效率。
　　 本文研究的主要?jiǎng)?chuàng)新部分有:
　　 1、基于語(yǔ)義相關(guān)的概念聚合。在文本的特征詞中常常會(huì)出現(xiàn)一些義同形異的詞，傳統(tǒng)的相似度計(jì)算中，由于無(wú)法判別這類詞的關(guān)系，而忽略它們?cè)谖谋鞠嗨频淖饔?，本文將?duì)這類詞進(jìn)行語(yǔ)義聚合，形成概念。實(shí)驗(yàn)結(jié)果顯示，關(guān)于概念的聚合能有效的表達(dá)出這類特征詞的含義，使得在相似度計(jì)算中，能充體現(xiàn)這類詞對(duì)文本相似度的貢獻(xiàn)，提高文本分類的精度，同時(shí)也降低了文本向量的維數(shù)。

4、
　　 2、通過(guò)文本特征位串來(lái)減小KNN算法的計(jì)算量。針對(duì)KNN算法計(jì)算量大的問(wèn)題，提出文本特征位串來(lái)快速的篩選出與待分類文本可能相似的文本，即選出與待分類文本存在概念共現(xiàn)的文本，從而縮小進(jìn)行KNN相似度計(jì)算的訓(xùn)練文本集，達(dá)到減小KNN計(jì)算量的目的。理論分析和實(shí)驗(yàn)結(jié)果表明，文本特征位串能在不降低分類準(zhǔn)確率的情況下，提高KNN算法的分類效率。
　　 3、提出特征多類別矩陣來(lái)降低KNN算法的計(jì)算量。在KNN算法中，要減小計(jì)算