基于成對(duì)約束和稀疏表示的特征選擇算法研究.pdf

1、特征選擇作為高維數(shù)據(jù)降維的有效方法,已被廣泛應(yīng)用在文本分類、信息檢索、遺傳基因分析等領(lǐng)域?，F(xiàn)有的大多數(shù)特征選擇算法都是基于有標(biāo)記樣本或無標(biāo)記樣本的。然而,除了類標(biāo)記,還存在另一種監(jiān)督信息,即標(biāo)識(shí)樣本對(duì)是否屬于同一類的成對(duì)約束。成對(duì)約束作為一種新穎的監(jiān)督信息,由于其比類標(biāo)記更易獲取,已在機(jī)器學(xué)習(xí)的很多方面得到了成功應(yīng)用。因此,本文首先針對(duì)基于成對(duì)約束的特征選擇算法從多個(gè)角度展開了充分研究。另一方面,由于稀疏表示的良好特性,近年來,也引起了

2、機(jī)器學(xué)習(xí)領(lǐng)域研究人員的廣泛關(guān)注。本文將稀疏表示引入特征選擇方法的框架中,提出了一種全新的基于稀疏表示的特征選擇算法。主要?jiǎng)?chuàng)新和研究工作總結(jié)如下:
　　 (1)在基于成對(duì)約束的特征選擇算法Constraint Score的基礎(chǔ)上,結(jié)合半監(jiān)督降維的思想,通過加入全局或者局部的無監(jiān)督信息,提出了半監(jiān)督特征選擇算法Semi-CS。Semi-CS能夠同時(shí)利用成對(duì)約束和無標(biāo)號(hào)數(shù)據(jù)進(jìn)行特征選擇,且在多個(gè)UCI高維數(shù)據(jù)集上獲得了很好的性能。

3、r>　　 (2)針對(duì)Constraint Score的性能易受成對(duì)約束集具體組成影響的缺點(diǎn),提出了特征選擇集成算法BCS。BCS以集成的觀點(diǎn)利用成對(duì)約束集,有效地提高了在多個(gè)UCI高維數(shù)據(jù)集和基因表達(dá)數(shù)據(jù)集上的分類和聚類性能。
　　 (3)將稀疏表示引入特征選擇中,提出了基于稀疏表示的特征選擇算法Sparsity Score。該算法選取最能夠保持?jǐn)?shù)據(jù)間稀疏重構(gòu)關(guān)系的特征子集,在多個(gè)UCI高維數(shù)據(jù)集和基因表達(dá)數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果驗(yàn)