半監(jiān)督流形學(xué)習(xí)的算法分析與應(yīng)用.pdf

1、本文介紹了基于流形的機(jī)器學(xué)習(xí)算法--流形學(xué)習(xí)。其中包括等距映射、局部線性嵌入映射、拉普拉斯特征映射和擴(kuò)散映射，展現(xiàn)了這些經(jīng)典算法的思想、推導(dǎo)過程以及實(shí)驗(yàn)效果，并在此基礎(chǔ)上推出了維數(shù)約簡(jiǎn)算法的一個(gè)整體框架一圖投影，在圖投影框架中重新審視了各個(gè)算法的相似性定義，以及在信息挖掘和行為感知領(lǐng)域的應(yīng)用。實(shí)際上，許多維數(shù)約簡(jiǎn)應(yīng)用的例子都是處理一些具有部分標(biāo)記樣本的數(shù)據(jù)集。所以，在本文中我們將著重考慮基于標(biāo)記信息的流形學(xué)習(xí)算法。我們推出了兩種解決此類

2、問題的算法來進(jìn)行維數(shù)約簡(jiǎn)和數(shù)據(jù)表示，一種算法是基于拉普拉斯特征映射的，一種是基于擴(kuò)散映射的。這兩種算法都能夠做到既保持流形的局部幾何結(jié)構(gòu)，又能保持整體統(tǒng)計(jì)標(biāo)記信息。這兩種算法與以往經(jīng)典算法不同之處就是利用標(biāo)記信息改造了基本幾何信息構(gòu)造的相似性矩陣。算法分別在手寫數(shù)字，人臉圖像和天氣等數(shù)據(jù)庫(kù)中得到了很好的應(yīng)用。半監(jiān)督的拉普拉斯特征映射是改造了經(jīng)典的拉普拉斯特征映射框架而得到的，該算法使得目標(biāo)函數(shù)考慮了標(biāo)記信息。首先，通過局部鄰域關(guān)系構(gòu)建一

3、個(gè)加權(quán)圖，然后通過樣本的標(biāo)記信息改造這個(gè)局部結(jié)構(gòu)關(guān)系使得樣本之間的關(guān)系依賴于標(biāo)記信息，最后通過解決廣義特征分解問題得到樣本在低維空間的表示。實(shí)驗(yàn)證明該算法通過考慮標(biāo)記信息，使得性能得到了很大的提升。半監(jiān)督擴(kuò)算映射是一種基于傳統(tǒng)的擴(kuò)散映射的算法。該算法的相似性矩陣是通過樣本標(biāo)記的后驗(yàn)概率改造得到的，樣本的標(biāo)記后驗(yàn)概率是通過有限步EM迭代算法得到。值得一提的是，半監(jiān)督擴(kuò)散映射能夠?qū)⒉煌瑯?biāo)記的樣本投影到不同的子空間中去，這樣使得后續(xù)的分類和識(shí)