基于局部線性嵌入的降維算法研究.pdf

1、隨著科學(xué)的進(jìn)步，信息技術(shù)得到了快速發(fā)展及廣泛應(yīng)用，高維數(shù)據(jù)應(yīng)運(yùn)而生，如醫(yī)學(xué)圖像處理、計算生物學(xué)、全球氣候模型等，高維數(shù)據(jù)難以被現(xiàn)有的機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘算法進(jìn)行有效地處理。數(shù)據(jù)降維算法是處理這些高維數(shù)據(jù)的一個非常重要的工具和方法。而流形學(xué)習(xí)作為一種高維數(shù)據(jù)降維的技術(shù)手段，在非線性降維方面取得了廣泛的應(yīng)用。
　　 其中局部線性嵌入(LLE)是一種假設(shè)局部能夠線性化表示而提出的流形學(xué)習(xí)算法，它有參數(shù)少、計算快、易求全局最優(yōu)解等優(yōu)點。但

2、是，LLE算法使得降維后的數(shù)據(jù)損失了原有數(shù)據(jù)的密度信息，從而導(dǎo)致降維效果產(chǎn)生扭曲，無法獲得正確的低維嵌入。另外，多流形數(shù)據(jù)不滿足局部線性嵌入算法要求流形連續(xù)的特點，所以也難以有效降維。這兩個問題成為了局部線性嵌入的瓶頸。
　　 本文主要對基于流形學(xué)習(xí)的局部線性嵌入(LLE)算法進(jìn)行了深入的研究與改進(jìn)，對LLE的缺點進(jìn)行了詳細(xì)地分析：
　　 (1)在源數(shù)據(jù)集分布不均勻、密度變化大的情況下，分析了LLE算法降維的基本思想，得

3、出權(quán)值矩陣在降維過程中起到了連接樞紐的重要作用，而近鄰的選取對權(quán)值矩陣的獲得具有直接的影響。因此，一方面從局部近鄰的幾何性質(zhì)入手，對近鄰選取情況進(jìn)行改進(jìn)，另一方面對LLE權(quán)向量的性質(zhì)進(jìn)行了詳細(xì)的分析，得知降維后的數(shù)據(jù)不能反映原來高維數(shù)據(jù)的密度信息。在以上基礎(chǔ)上提出了一種基于密度刻畫的降維方法。
　　 (2)對多流形問題進(jìn)行了研究，發(fā)現(xiàn)多流形數(shù)據(jù)存在局域線性化差的問題，從局部線性嵌入算法的兩個獨立的優(yōu)化問題入手，對LLE算法進(jìn)行改