基于Lasso的特征選擇方法研究與實(shí)現(xiàn).pdf

1、在機(jī)器學(xué)習(xí)領(lǐng)域，特征選擇作為數(shù)據(jù)預(yù)處理的一種常用的手段，不僅能夠提高分類器的分類性能，而且能增加對(duì)分類結(jié)果的解釋性，已被廣泛的應(yīng)用到圖像檢索、人臉識(shí)別、醫(yī)學(xué)圖像分析等領(lǐng)域。但隨著時(shí)代發(fā)展和科技的進(jìn)步，各應(yīng)用領(lǐng)域積累了大量的高維數(shù)據(jù)，包括有標(biāo)簽數(shù)據(jù)和大量無標(biāo)簽數(shù)據(jù)，應(yīng)用傳統(tǒng)的特征選擇方法于處理這些數(shù)據(jù)時(shí)具有一定的局限性?；谌O(jiān)督機(jī)器機(jī)器學(xué)習(xí)，充分挖掘數(shù)據(jù)自身所具有的先驗(yàn)知識(shí)，提出了新的特征選擇方法，并將其推廣到半監(jiān)督機(jī)器學(xué)習(xí)場(chǎng)景，從而更

2、好利用大量無標(biāo)簽數(shù)據(jù)，學(xué)習(xí)出更具推廣性的學(xué)習(xí)模型。具體而言，本文主要進(jìn)行了如下研究工作：
　　首先，在全監(jiān)督機(jī)器學(xué)習(xí)環(huán)境下，針對(duì)Lasso特征選擇方法的不足，提出了一種新的特征選擇方法 Lap-Lasso，保留了基于 Lasso特征選擇方法的優(yōu)點(diǎn)，即：能夠進(jìn)行回歸和特征選擇，選擇出的特征與類標(biāo)簽非常相關(guān)，同時(shí)又考慮到了樣本自身內(nèi)在的關(guān)聯(lián)信息，以誘導(dǎo)出更具有判別力的特征。通過理論分析和仿真實(shí)驗(yàn)，在UCI數(shù)據(jù)集的實(shí)驗(yàn)結(jié)果驗(yàn)證了Lap-

3、Lasso方法的有效性。進(jìn)行特征選擇時(shí)，相比其他的特征選擇方法表現(xiàn)出更好的性能。
　　其次，考慮到在應(yīng)用實(shí)踐中，通常獲得有標(biāo)簽數(shù)據(jù)通常需要大量的人力物力，而獲得無標(biāo)簽數(shù)據(jù)相對(duì)較為容易，本文將Lap-Lasso模型推廣到半監(jiān)督機(jī)器學(xué)習(xí)場(chǎng)景，提出了半監(jiān)督特征選擇方法Semi-Lap-Lasso方法，在UCI數(shù)據(jù)集上，一系列實(shí)驗(yàn)驗(yàn)證了該方法的有效性。
　　最后，在 UCI數(shù)據(jù)集上，一系列實(shí)驗(yàn)驗(yàn)證了 Semi-Lap-Lasso方法