基于信息粒化的特征選擇算法研究.pdf

1、特征選擇作為數(shù)據(jù)預處理的關鍵手段，是數(shù)據(jù)挖掘、模式識別和機器學習等領域的重要研究課題之一。它是指在原始數(shù)據(jù)中刪除大量無關和冗余的特征，找到一組包含原始特征空間的全部或大部分分類信息的特征子集的過程。對于高維數(shù)據(jù)，借鑒表征整體的思想，將數(shù)據(jù)集由一個大信息粒細化為多個可有效表征其整體的小信息粒，有助于從多層次、多視覺分析數(shù)據(jù)。因此，本文利用信息粒化的表征機制，將其運用于特征選擇中，并構(gòu)造了一系列的基于信息粒化的特征選擇模型。
　　本文

2、首先介紹特征選擇問題的研究現(xiàn)狀，重點討論了鄰域粒化，大間隔和局部子空間模型。然后，針對數(shù)據(jù)中冗余和無關特征的消除問題，以粒化為基礎，分別從樣本?；⑻卣髁；约皹颖咎卣麟p重粒化三個角度，展開一系列的研究來解決不同的數(shù)據(jù)分類預測問題，本文主要的研究成果有:
　?。?）從樣本?；嵌瘸霭l(fā)，結(jié)合特征本身具有質(zhì)量這一情況，提出了基于特征質(zhì)量的特征選擇算法。該算法根據(jù)信息熵和大間隔分別定義了特征質(zhì)量和最近鄰，并利用該近鄰實現(xiàn)了樣本的粒化。實

3、驗從特征子集的緊湊性，分類精度，以及分類精度隨著特征數(shù)目的變化情況這三方面對模型進行了驗證，結(jié)果表明基于特征質(zhì)量可以選擇一組有效的特征子集。
　?。?）從樣本?；嵌瘸霭l(fā)，采用鄰域關系，提出了基于最大近鄰粗糙逼近的特征選擇算法MNNRS。該算法以鄰域粗糙集的特征選擇算法NRS為框架，利用大間隔定義了最大近鄰來?；瘶颖?，并修正了正域的計算方法。MNNRS算法保留了NRS算法的優(yōu)點，且有效降低了計算復雜性，提高了算法的分類性能。

4、>　　（3）從特征?；嵌瘸霭l(fā)，針對多標記數(shù)據(jù)集的高維性和標記與特征之間存在的類屬關系，提出了基于局部子空間的多標記特征選擇算法。該算法以局部子空間模型為基礎，結(jié)合信息熵理論，鑒別了多標記中對標記集合相對次要，但卻不可遺漏的特征。實驗表明該算法能有效降低計算復雜性，提高分類性能，增強選擇策略的靈活性。
　?。?）從樣本?；吞卣髁；嵌瘸霭l(fā)，針對高維小樣本數(shù)據(jù)存在高維性和易導致過擬合的問題，提出了一種啟發(fā)式的局部隨機特征選擇方法。