特征選擇與特征學習算法研究.pdf

1、信息時代的到來導致在機器學習過程中，學習數(shù)據(jù)趨向于更大規(guī)模，更高維度，并且具有復雜噪聲，從而給模型的訓練與學習提出了挑戰(zhàn)。因此，充分地對數(shù)據(jù)進行分析挖掘，提取出數(shù)據(jù)中的關鍵特征和港在信息，具有重要的研究價值和意義。本文分別從特征選擇和特征學習兩個方面進行研究。
　　特征選擇旨在從數(shù)據(jù)中利用一定策略選擇出原始特征集的一個最優(yōu)子集?，F(xiàn)有的特征選擇算法，主要通過考慮特征與目標任務的相關度評估特征的重要性。在監(jiān)督學習中，考慮特征與目標的統(tǒng)

2、計相關性，在無監(jiān)督學習中，根據(jù)特征與樣本結構的契合程度，評估特征在樣本集上的區(qū)分能力。除了考慮特征的相關度，本文提出結合特征相關度和冗余度的特征選擇算法FSIR2，算法基于譜特征選擇理論評估特征的相關度，同時考慮特征集內(nèi)部的冗余度，通過最大化特征與目標的相關度，最小化特征之間的冗余度，進而確定最優(yōu)特征子集。算法適用于監(jiān)督學習和無監(jiān)督學習兩種條件。
　　不同于特征選擇，特征學習致力于將原始特征集映射到新的特征空間，學習數(shù)據(jù)的最優(yōu)表達

3、?，F(xiàn)有的特征學習算法主要分為傳統(tǒng)學習算法和基于神經(jīng)網(wǎng)絡的算法兩種。目前，大量工作基于卷積神經(jīng)網(wǎng)絡、遞歸神經(jīng)網(wǎng)絡等進行監(jiān)督特征學習，而充分利用大量低成本的的無監(jiān)督數(shù)據(jù)進行特征學習的研究工作不足。本文提出基于卷積自編碼網(wǎng)絡的特征學習算法SoundAutoEncoder。算法針對視頻數(shù)據(jù)中的音頻數(shù)據(jù)進行無監(jiān)督的特征學習，一方面利用卷積自編碼網(wǎng)絡，以充分挖掘音頻數(shù)據(jù)中的有效信息進行特征學習;另一方面利用視頻數(shù)據(jù)中圖像數(shù)據(jù)與音頻數(shù)據(jù)的天然一致性，

4、通過完善的視覺識別模型提取圖像數(shù)據(jù)中的語義信息，進而指導音頻數(shù)據(jù)的特征學習過程。
　　對于FSIR2算法，本文在監(jiān)督學習和無監(jiān)督學習兩種條件下，在10個數(shù)據(jù)集上進行實驗，測試其所選特征集上的分類、聚類準確率，以及特征之間的冗余度。在與相對表現(xiàn)最好的算法MCFS的對比中，F(xiàn)SIR2算法在聚類結果的準確率、NMI上提升了4％，在冗余度上降低了5％，在分類結果的準確率上與MCFS表現(xiàn)相當。對于SoundAutoEncoder算法，本文通