流形學(xué)習(xí)理論研究及相關(guān)改進(jìn).pdf

1、本文首先從流形學(xué)習(xí)的基本理論入手,給出了流形學(xué)習(xí)的定義說明,介紹了當(dāng)前5種著名的流形學(xué)習(xí)算法,并給出了這些算法的理論原理和步驟,對(duì)每種算法的各自的優(yōu)勢(shì)與缺點(diǎn)也進(jìn)行了詳細(xì)的比較說明。通過對(duì)這些算法的研究,本文創(chuàng)造性的給出了兩種改進(jìn)的方法。
　　 首先,通過研究發(fā)現(xiàn),數(shù)據(jù)點(diǎn)的切空間在流形學(xué)習(xí)中發(fā)揮著重要的作用。在理論上,許多著名的流形學(xué)習(xí)算法(如HLLE、LTSA等)都是基于數(shù)據(jù)點(diǎn)的切空間,但在實(shí)踐中,這些算法都是將數(shù)據(jù)點(diǎn)鄰域的樣本

2、協(xié)方差矩陣的主元所張成的空間當(dāng)做數(shù)據(jù)點(diǎn)的切空間。迄今為止,業(yè)界對(duì)于這些流形學(xué)習(xí)算法在理論和實(shí)踐之間的差異似乎并未有清楚的認(rèn)識(shí)和明確的評(píng)論。
　　 本文首先通過數(shù)學(xué)推導(dǎo)證明,數(shù)據(jù)點(diǎn)鄰域的樣本協(xié)方差矩陣的主元張成的空間不是數(shù)據(jù)點(diǎn)本身的切空間,充其量只能算是數(shù)據(jù)點(diǎn)鄰域的均值點(diǎn)的切空間。于是本文首先提出了另一種新的數(shù)據(jù)點(diǎn)切空間的計(jì)算方法。通過數(shù)學(xué)推導(dǎo)證明,在一階泰勒展開的近似下,本文提出的計(jì)算方法所得到的空間就是數(shù)據(jù)點(diǎn)自身的切空間,更為

3、重要的是,本文提出的計(jì)算方法,沒有增加任何計(jì)算復(fù)雜度。
　　 其次,通過對(duì)局部線性算法(LLE)的理論研究,發(fā)現(xiàn)LLE算法在降維效果上存在很多缺陷,特別是對(duì)數(shù)據(jù)鄰域選取工作中的不足導(dǎo)致的對(duì)降維效果的不良影響,于是根據(jù)LLE算法的前提假設(shè):局部鄰域點(diǎn)之間存在線性關(guān)系,本文創(chuàng)造性的提出一種基于局部鄰域相關(guān)系數(shù)絕對(duì)值最大選擇鄰域的算法,能有效地使局部鄰域點(diǎn)的選取更好地體現(xiàn)出彼此點(diǎn)與點(diǎn)之間的線性關(guān)系,從而減少因?yàn)猷徲蜻x取工作的不當(dāng)對(duì)LL