基于Lasso的特征選擇方法研究與實現(xiàn).pdf

1、在機器學習領(lǐng)域，特征選擇作為數(shù)據(jù)預(yù)處理的一種常用的手段，不僅能夠提高分類器的分類性能，而且能增加對分類結(jié)果的解釋性，已被廣泛的應(yīng)用到圖像檢索、人臉識別、醫(yī)學圖像分析等領(lǐng)域。但隨著時代發(fā)展和科技的進步，各應(yīng)用領(lǐng)域積累了大量的高維數(shù)據(jù)，包括有標簽數(shù)據(jù)和大量無標簽數(shù)據(jù)，應(yīng)用傳統(tǒng)的特征選擇方法于處理這些數(shù)據(jù)時具有一定的局限性?；谌O(jiān)督機器機器學習，充分挖掘數(shù)據(jù)自身所具有的先驗知識，提出了新的特征選擇方法，并將其推廣到半監(jiān)督機器學習場景，從而更

2、好利用大量無標簽數(shù)據(jù)，學習出更具推廣性的學習模型。具體而言，本文主要進行了如下研究工作：
　　首先，在全監(jiān)督機器學習環(huán)境下，針對Lasso特征選擇方法的不足，提出了一種新的特征選擇方法 Lap-Lasso，保留了基于 Lasso特征選擇方法的優(yōu)點，即：能夠進行回歸和特征選擇，選擇出的特征與類標簽非常相關(guān)，同時又考慮到了樣本自身內(nèi)在的關(guān)聯(lián)信息，以誘導(dǎo)出更具有判別力的特征。通過理論分析和仿真實驗，在UCI數(shù)據(jù)集的實驗結(jié)果驗證了Lap-

3、Lasso方法的有效性。進行特征選擇時，相比其他的特征選擇方法表現(xiàn)出更好的性能。
　　其次，考慮到在應(yīng)用實踐中，通常獲得有標簽數(shù)據(jù)通常需要大量的人力物力，而獲得無標簽數(shù)據(jù)相對較為容易，本文將Lap-Lasso模型推廣到半監(jiān)督機器學習場景，提出了半監(jiān)督特征選擇方法Semi-Lap-Lasso方法，在UCI數(shù)據(jù)集上，一系列實驗驗證了該方法的有效性。
　　最后，在 UCI數(shù)據(jù)集上，一系列實驗驗證了 Semi-Lap-Lasso方法