改進(jìn)的互信息與LDA結(jié)合的特征降維方法研究.pdf

1、文本分類是文本挖掘中的一個(gè)熱門研究領(lǐng)域。分類的流程包含關(guān)鍵的幾個(gè)環(huán)節(jié)，每個(gè)環(huán)節(jié)處理的合適與否都對(duì)文本分類的結(jié)果有一定的影響，其中文本特征降維是分類過(guò)程中最重要的環(huán)節(jié)之一。如何將文本的特征有效的選擇出來(lái)是目前一個(gè)較熱門的研究課題。
　　本文主要以文本特征選擇中的互信息方法為研究對(duì)象，通過(guò)分析互信息特征選擇方法存在的不足，提出了一種互信息特征選擇改進(jìn)的方法。由于傳統(tǒng)方法進(jìn)行特征選擇時(shí)都是以數(shù)理統(tǒng)計(jì)為基礎(chǔ)的，忽視了詞項(xiàng)間的語(yǔ)義關(guān)系。結(jié)合

2、LDA主題模型在分類領(lǐng)域中的應(yīng)用，通過(guò)將傳統(tǒng)的特征選擇方法與LDA結(jié)合的思路來(lái)對(duì)文本進(jìn)行特征降維，以便提高分類的效果。本文的主要工作如下:
　　1、研究文獻(xiàn)資料，在分析中文文本分類研究的發(fā)展現(xiàn)狀，重點(diǎn)以文本分類中互信息特征選擇為例進(jìn)行研究。分析互信息方法在做特征選擇時(shí)表現(xiàn)的不足，提出了一種互信息特征選擇的改進(jìn)方法。
　　2、由于互信息特征選擇方法沒(méi)有將特征詞的詞頻信息以及文本類別之間的信息考慮進(jìn)來(lái)，而只是考慮了特征詞在文本集

3、中的文本頻率。針對(duì)這個(gè)問(wèn)題在基于文本詞頻互信息改進(jìn)的基礎(chǔ)上，引入類間離散度和類內(nèi)分散度兩個(gè)概念，提出了一種特征詞詞頻與類別區(qū)分詞相結(jié)合的互信息特征選擇方法，實(shí)驗(yàn)分析表明本文提出的改進(jìn)方法能夠使文本分類的效果得到一定程度的提高。
　　3、針對(duì)傳統(tǒng)方法在做特征選擇時(shí)都是以數(shù)理統(tǒng)計(jì)為基礎(chǔ)的，并未考慮詞項(xiàng)間的語(yǔ)義信息，將本文改進(jìn)的互信息與LDA相結(jié)合來(lái)對(duì)文本進(jìn)行特征降維，在Linux環(huán)境下對(duì)LDA進(jìn)行建模學(xué)習(xí)，并通過(guò)實(shí)驗(yàn)選取合適的參數(shù)，然