流形學(xué)習(xí)及其應(yīng)用算法研究.pdf

1、流形學(xué)習(xí)是一種新穎的非線性降維技術(shù)，是當(dāng)前機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘和模式識(shí)別領(lǐng)域的研究熱點(diǎn)。本論文以提高流形學(xué)習(xí)處理實(shí)際問(wèn)題的能力為目的，主要研究了流形學(xué)習(xí)的穩(wěn)健性以及流形學(xué)習(xí)在模式識(shí)別中的應(yīng)用兩個(gè)問(wèn)題，所做的主要工作及創(chuàng)新性成果如下：
　　1.提出基于編碼長(zhǎng)度的噪聲點(diǎn)檢測(cè)方法。傳統(tǒng)的噪聲點(diǎn)檢測(cè)算法沒(méi)有考慮流形上局部線性全局非線性的特點(diǎn)，并不完全適合于流形學(xué)習(xí)。本文基于編碼長(zhǎng)度提出新的迭代噪聲點(diǎn)檢測(cè)方法。編碼長(zhǎng)度是一種結(jié)構(gòu)描述子，其相比

2、于傳統(tǒng)的歐氏距離能夠更好地描述數(shù)據(jù)的幾何結(jié)構(gòu)。迭代方案的設(shè)計(jì)使得該方法較傳統(tǒng)方法具有更好的拓?fù)浞€(wěn)定性。本文所提噪聲點(diǎn)檢測(cè)算法可作為預(yù)處理步驟使用，以增強(qiáng)經(jīng)典流形學(xué)習(xí)算法的穩(wěn)健性。
　　2.提出基于近鄰排序測(cè)度的噪聲鄰域選擇方法?？紤]到利用歐氏距離求得的近鄰可能不再是流形意義上的近鄰，本文基于近鄰需要相互承認(rèn)的思想定義了衡量近鄰關(guān)系的測(cè)度一一近鄰排序測(cè)度。隨后，本文采取鄰域擴(kuò)展加非近鄰移除的策略，提出基于近鄰排序測(cè)度的鄰域選擇方法。

3、與傳統(tǒng)的k近鄰方法相比，所提方法對(duì)參數(shù)變化不敏感，并且更適合處理噪聲流形學(xué)習(xí)問(wèn)題。
　　3.針對(duì)局部切空間排列算法難以有效處理稀疏采樣數(shù)據(jù)和非均勻分布數(shù)據(jù)的缺點(diǎn)提出一種改進(jìn)算法。首先提出一種基于L1范數(shù)的局部切空間估計(jì)方法，由于同時(shí)考慮了距離和結(jié)構(gòu)因素，該方法得到的切空間較主成分分析方法更為準(zhǔn)確。其次，在坐標(biāo)排列步驟為了減小排列誤差，設(shè)計(jì)了一種基于流形結(jié)構(gòu)的加權(quán)坐標(biāo)排列方案，并給出了具體的求解方法?；谌嗽鞌?shù)據(jù)和真實(shí)數(shù)據(jù)的實(shí)驗(yàn)表明

4、，該算法能夠有效地處理稀疏和非均勻分布的流形數(shù)據(jù)。
　　4.將流形學(xué)習(xí)與稀疏表示理論和非參數(shù)判別分析技術(shù)相結(jié)合，分別提出SPPNDA和 SRNDA兩種監(jiān)督特征提取算法。SPPNDA算法通過(guò)在最大化非參數(shù)類間離差的同時(shí)保持類內(nèi)稀疏重構(gòu)關(guān)系來(lái)求解最優(yōu)投影矩陣，SRNDA算法通過(guò)在最大化非參數(shù)類間離差的同時(shí)最小化稀疏類內(nèi)離差來(lái)求解最優(yōu)投影矩陣。與現(xiàn)有基于流形學(xué)習(xí)的特征提取算法相比，SPPNDA和SRNDA算法的特點(diǎn)是：基于同類樣本的稀疏

5、表示來(lái)構(gòu)造圖，克服了參數(shù)選擇的困難；利用非參數(shù)技術(shù)來(lái)刻畫(huà)類間信息，能夠更好地處理非高斯分布的數(shù)據(jù)；同時(shí)考慮了類內(nèi)幾何結(jié)構(gòu)和類間信息，使所提兩種算法較傳統(tǒng)基于流形學(xué)習(xí)的特征提取算法更具鑒別力。
　　5.提出基于子類結(jié)構(gòu)保持的特征選擇算法。針對(duì)現(xiàn)有基于流形學(xué)習(xí)的特征選擇算法對(duì)鄰域參數(shù)選擇較為敏感且難以有效處理復(fù)雜分布數(shù)據(jù)的缺點(diǎn)，本文將近鄰傳播算法和子類信息引入到特征選擇中，提出基于子類結(jié)構(gòu)保持的特征選擇算法。該方法首先基于近鄰傳播算法