組特征選擇算法及其應用研究.pdf

1、在生物信息學中，基于基因表達微陣列數(shù)據(jù)的分類模型以及特征選擇算法已成為機器學習和數(shù)據(jù)挖掘領(lǐng)域的研究熱點。由于基因存在共調(diào)控現(xiàn)象，即存在一系列共同發(fā)揮作用的基因，從而導致微陣列數(shù)據(jù)中存在特征組。目前，領(lǐng)域?qū)＜蚁Ｍ軌虬l(fā)現(xiàn)這些相關(guān)基因組成的特征組以進行深入研究，因此本文重點研究組特征選擇算法，在降低特征個數(shù)提高分類精度的同時，發(fā)現(xiàn)數(shù)據(jù)中存在的關(guān)鍵特征組，為領(lǐng)域?qū)＜姨峁└嗟牡讓訑?shù)據(jù)關(guān)系信息。
　　根據(jù)特征組發(fā)現(xiàn)方式的不同，組特征選擇算

2、法一般分為兩類:顯式組特征選擇和隱式組特征選擇。顯式組特征選擇先根據(jù)一定準則將特征劃分為若干個特征組，且組內(nèi)特征彼此高度相關(guān)，然后在特征組的層次上進行選擇。隱式組特征選擇則不直接找出特征組，而是根據(jù)其特征選擇的結(jié)果識別特征組。圍繞上述兩類組特征選擇算法，本文的主要工作如下:
　　1.提出了一個基于特征聚類的顯式組特征選擇算法FC-gRFE(Feature Clustering based Group SVM-RFE)。該算法首先對

3、樣本進行特征聚類，將每個聚類看作一個特征組，然后在特征組的層次上利用SVMRFE進行特征選擇，得到最后的組特征選擇結(jié)果?？紤]到樣本個數(shù)變化對特征聚類的影響，提出了SW-gRFE算法(Sample Weighting FC-gRFE)，該算法首先根據(jù)樣本重要性計算樣本權(quán)重，然后在加權(quán)樣本集上進行FC-gRFE組特征選擇。微陣列數(shù)據(jù)集上的實驗結(jié)果表明，該算法可以在不犧牲分類精度的前提下，有效發(fā)現(xiàn)數(shù)據(jù)中存在的特征組。
　　2.提出了一個

4、基于改進權(quán)重的隱式組特征選擇算法CW-groupS(Coefficient Weight group feature Selection)。該算法首先利用稀疏模型Elastic Net對每一個特征在原始訓練樣本的特征集上進行稀疏編碼，然后根據(jù)這些判別性比原始特征更強的編碼來計算特征之間的相關(guān)性，最后求解基于特征相關(guān)性加權(quán)的Fused Lasso模型，得到具有組效應的稀疏特征系數(shù)，即為組特征選擇結(jié)果。本文利用FISTA算法實現(xiàn)了CW-gr