基于潛在語(yǔ)義索引的文本分類(lèi)研究與實(shí)現(xiàn).pdf

1、潛在語(yǔ)義索引模型(LatentSemanticIndexing,LSI)是經(jīng)過(guò)實(shí)驗(yàn)驗(yàn)證的文本分類(lèi)技術(shù)中行之有效的維數(shù)約簡(jiǎn)算法之一。潛在語(yǔ)義索引模型對(duì)原始特征空間降維的過(guò)程是一個(gè)在降維的同時(shí)盡可能保留原始特征空間全局信息的過(guò)程，那么在這個(gè)過(guò)程中不可避免的會(huì)過(guò)濾掉一些對(duì)某些類(lèi)別識(shí)別很重要，但是全局考慮下又不是很重要的特征。因此，針對(duì)上述問(wèn)題，我們對(duì)傳統(tǒng)LSI模型進(jìn)行了改進(jìn)。
　　首先，在基于詞頻的權(quán)值計(jì)算的基礎(chǔ)上，針對(duì)傳統(tǒng)方法存在的缺

2、陷，本文在計(jì)算過(guò)程中提出了文檔權(quán)重的概念，使新的權(quán)值計(jì)算方法更有利于潛在語(yǔ)義空間的生成，更適合潛在語(yǔ)義索引模型；同時(shí)增加了詞語(yǔ)位置信息，使得詞語(yǔ)的權(quán)值計(jì)算更加精確。
　　然后，在對(duì)傳統(tǒng)2χ統(tǒng)計(jì)方法的分析基礎(chǔ)上，針對(duì)傳統(tǒng)2χ統(tǒng)計(jì)方法對(duì)于稀有類(lèi)別信息的不重視以及對(duì)于特定情況下2χ統(tǒng)計(jì)量錯(cuò)誤的過(guò)高等缺陷，本文引入了頻度、集中度、分散度三個(gè)指標(biāo),使得新的2χ統(tǒng)計(jì)方法更加精確。
　　最后本文在傳統(tǒng)LSI分類(lèi)方法的基礎(chǔ)上增加了對(duì)類(lèi)別信息

3、的考慮，利用偏最小二乘回歸提出新的文本分類(lèi)方法，稱(chēng)之為基于類(lèi)別信息的潛在語(yǔ)義分類(lèi)方法(LatentSemanticClassificationbasedonCategoryInformation,LSCCI)。本文較為詳細(xì)的闡述了潛在語(yǔ)義索引模型的實(shí)現(xiàn)原理，對(duì)LSCCI的推導(dǎo)過(guò)程進(jìn)行了詳細(xì)的闡述，并將LSCCI與其他經(jīng)典分類(lèi)模型的性能進(jìn)行了比較分析。實(shí)驗(yàn)數(shù)據(jù)表明，LSCCI具有較好的分類(lèi)準(zhǔn)確度。在英文文本分類(lèi)實(shí)驗(yàn)中，對(duì)于稀有類(lèi)別表現(xiàn)出比