改進的互信息與LDA結合的特征降維方法研究.pdf

1、文本分類是文本挖掘中的一個熱門研究領域。分類的流程包含關鍵的幾個環(huán)節(jié)，每個環(huán)節(jié)處理的合適與否都對文本分類的結果有一定的影響，其中文本特征降維是分類過程中最重要的環(huán)節(jié)之一。如何將文本的特征有效的選擇出來是目前一個較熱門的研究課題。
　　本文主要以文本特征選擇中的互信息方法為研究對象，通過分析互信息特征選擇方法存在的不足，提出了一種互信息特征選擇改進的方法。由于傳統(tǒng)方法進行特征選擇時都是以數理統(tǒng)計為基礎的，忽視了詞項間的語義關系。結合

2、LDA主題模型在分類領域中的應用，通過將傳統(tǒng)的特征選擇方法與LDA結合的思路來對文本進行特征降維，以便提高分類的效果。本文的主要工作如下:
　　1、研究文獻資料，在分析中文文本分類研究的發(fā)展現狀，重點以文本分類中互信息特征選擇為例進行研究。分析互信息方法在做特征選擇時表現的不足，提出了一種互信息特征選擇的改進方法。
　　2、由于互信息特征選擇方法沒有將特征詞的詞頻信息以及文本類別之間的信息考慮進來，而只是考慮了特征詞在文本集

3、中的文本頻率。針對這個問題在基于文本詞頻互信息改進的基礎上，引入類間離散度和類內分散度兩個概念，提出了一種特征詞詞頻與類別區(qū)分詞相結合的互信息特征選擇方法，實驗分析表明本文提出的改進方法能夠使文本分類的效果得到一定程度的提高。
　　3、針對傳統(tǒng)方法在做特征選擇時都是以數理統(tǒng)計為基礎的，并未考慮詞項間的語義信息，將本文改進的互信息與LDA相結合來對文本進行特征降維，在Linux環(huán)境下對LDA進行建模學習，并通過實驗選取合適的參數，然