基于ICF詞語(yǔ)聚合的特征降維方法以及在中文文本分類中的應(yīng)用.pdf

1、文本分類作為一項(xiàng)重要的數(shù)據(jù)挖掘技術(shù)，在國(guó)內(nèi)廣泛地應(yīng)用于詞義辨析、文本組織與管理、信息過(guò)濾、Web網(wǎng)頁(yè)文檔分類、數(shù)字圖書館、信息檢索等眾多領(lǐng)域，因此提高文本分類的精確度和效率有重要的研究意義。文本分類主要有文本預(yù)處理、文本分類處理、分類結(jié)果評(píng)價(jià)三個(gè)步驟，其中特征降維技術(shù)直接影響分類效果，傳統(tǒng)的特征降維方法采用對(duì)訓(xùn)練語(yǔ)料庫(kù)的分詞集合統(tǒng)計(jì)的方法，通過(guò)計(jì)算某種評(píng)價(jià)函數(shù)選擇超過(guò)預(yù)先設(shè)定的閡值的詞語(yǔ)作為特征項(xiàng)。這種降維方法過(guò)于依賴訓(xùn)練文本集，效果受

2、訓(xùn)練文本的局限，會(huì)導(dǎo)致過(guò)擬合。
　　針對(duì)過(guò)擬合現(xiàn)象，本文從詞語(yǔ)間的語(yǔ)義關(guān)系出發(fā)，提出一種基于詞語(yǔ)聚合的文本特征降維技術(shù)。該方法通過(guò)研究詞語(yǔ)之間的語(yǔ)義關(guān)系求出分類類別詞的詞語(yǔ)聚合集作為降維的特征集。詞語(yǔ)之間的語(yǔ)義關(guān)系由語(yǔ)義距離決定，而語(yǔ)義距離和詞語(yǔ)的相似度成反比關(guān)系。在對(duì)詞語(yǔ)相似度的研究中，本文提出基于逆概念頻率ICF(inverse concept frequency)的詞語(yǔ)相似度計(jì)算方法，計(jì)算第一基本義原結(jié)構(gòu)、其他基本義原結(jié)構(gòu)、

3、關(guān)系符號(hào)結(jié)構(gòu)、關(guān)系義原結(jié)構(gòu)中各義原結(jié)構(gòu)的ICF權(quán)重，計(jì)算概念基本特征的權(quán)重，得出概念相似度與概念權(quán)重的乘積作為詞語(yǔ)相似度計(jì)算結(jié)果。在詞語(yǔ)相似度研究的基礎(chǔ)上提出詞語(yǔ)聚合技術(shù)。基于詞語(yǔ)聚合的特征降維技術(shù)首先用詞語(yǔ)間的語(yǔ)義距離計(jì)算分類類別詞語(yǔ)的詞語(yǔ)聚合，計(jì)算詞語(yǔ)聚合時(shí)利用模擬退火算法求不同分類詞詞語(yǔ)聚合的聚合半徑。最后將所有分類詞的詞語(yǔ)聚合的并集作為特征集，從而達(dá)到降維的要求。
　　本文將基于詞語(yǔ)聚合的特征降維技術(shù)應(yīng)用在KNN分類器對(duì)待