流形學(xué)習(xí)在數(shù)據(jù)降維中的應(yīng)用研究.pdf

1、隨著信息技術(shù)的快速發(fā)展，越來越多的數(shù)據(jù)呈現(xiàn)出高維性和非線性，通過數(shù)據(jù)降維挖掘數(shù)據(jù)的本質(zhì)逐步引起了學(xué)者們的廣泛關(guān)注。與降維方法很少考慮數(shù)據(jù)幾何結(jié)構(gòu)不同，流形學(xué)習(xí)能夠發(fā)現(xiàn)隱藏在高維數(shù)據(jù)中的低維流形結(jié)構(gòu)，廣泛應(yīng)用于數(shù)據(jù)可視化、模式識別、圖像處理和圖像或文本信息檢索。本文在查閱分析國內(nèi)外文獻(xiàn)資料的基礎(chǔ)上，就各種流形學(xué)習(xí)方法及其在數(shù)據(jù)降維中的應(yīng)用展開研究，具體工作如下:
　　1.闡述各種經(jīng)典流形學(xué)習(xí)方法，特別是等距映射算法，并對算法進(jìn)行了總

2、結(jié)和比較。以兩個數(shù)據(jù)集為例，直觀反映了流形學(xué)習(xí)數(shù)據(jù)降維的效果。
　　2.從基于測地線距離的流形學(xué)習(xí)出發(fā)，描述了測地線距離理論。并針對ISOMAP無監(jiān)督、不能生成顯式映射函數(shù)等局限性，提出了SE-VQ-ISOMAP算法。改進(jìn)的算法引入了類別信息，在迭代優(yōu)化處理距離矩陣時引入矢量量化地標(biāo)點，并把RBF作為函數(shù)基，得到降維方法的顯式映射表示。實驗結(jié)果表明，降維效果快速、穩(wěn)定，識別率也高于ISOMAP及諸多改進(jìn)算法。
　　3.提出了

3、利用半監(jiān)督流形學(xué)習(xí)的SS-KDA、SDONNP和Reg-SS-ISOMAP方法。SS-KDA用標(biāo)簽數(shù)據(jù)最大化不同類的分離性，同時用無標(biāo)簽數(shù)據(jù)估計數(shù)據(jù)的本質(zhì)幾何結(jié)構(gòu)提高了數(shù)據(jù)降維效果;SDONNP遵循了ONPP的正交性質(zhì)，考慮類間和類內(nèi)幾何以及鄰域信息的類間關(guān)系;Reg-SS-ISOMAP首先利用訓(xùn)練樣本的標(biāo)簽樣本構(gòu)建K-CG圖，得到近似樣本間測地線距離，并作為特征向量代替原始數(shù)據(jù)點;然后將測地線距離作為內(nèi)核，用半監(jiān)督正則化方法代替MDS

4、算法處理特征向量;最后利用正則化回歸模型構(gòu)建目標(biāo)函數(shù)，得到低維表示的顯式映射。實驗結(jié)果表明，降維效果穩(wěn)定，識別率高，顯示了算法的有效性。
　　4.針對現(xiàn)實獲取的數(shù)據(jù)集呈現(xiàn)的復(fù)雜多流形特性，提出了Multi-ISOMAP算法。首先采用適用于多流形的鄰域圖構(gòu)建方法和測地線距離計算方法，然后利用Sammon映射來保持最短路徑，最后根據(jù)近鄰的局部切空間的相似度，判斷測試樣本和新樣本所屬的流形。實驗結(jié)果表明，算法很好地適用于多流形數(shù)據(jù)集，顯