模式識別的子空間方法及其在人臉圖像分析上的應(yīng)用.pdf

1、本文分別就子空間方法在圖像預(yù)處理、圖像數(shù)據(jù)稀疏表示和鑒別信息提取方面展開討論，并應(yīng)用于人臉圖像預(yù)處理、人臉圖像稀疏表達以及人臉識別。 在圖像預(yù)處理方面，本文提出了帶懲罰性原象學習算法。核主成分分析(KPCA)最近被開始用于圖像預(yù)處理。與主成分分析(PCA)相比，KPCA在核特征空間實現(xiàn)對數(shù)據(jù)的線性逼近，并在特征空間中實現(xiàn)圖像特征的預(yù)處理。然而KPCA變換后的圖像特征依然是定義在核特征空間中，而在某些應(yīng)用中，我們需要得到的是圖像數(shù)

2、據(jù)本身，所以需要學習該特征在圖像空間中相應(yīng)的原象，但是精確的原象往往是不存在的，因此原象學習本身是個病態(tài)估計問題。．目前如何設(shè)計適當?shù)膬?yōu)化準則以得到更佳的逼近原象值依然是個開放性問題。本文首先提出了一個基于兩步法的原象學習框架性算法；然后在提出的框架算法下，進一步發(fā)展了帶懲罰性原象學習算法，通過運用懲罰性體系來引導(dǎo)原象學習的過程，從而估計出更佳的逼近原象值。最后我們還把原象學習算法應(yīng)用于人臉圖像預(yù)處理等問題。 在圖像數(shù)據(jù)稀疏表示

3、方面，本文主要在理論和實驗上討論了各種稀疏約束方法的相互作用，并發(fā)展了基于非負成分的稀疏矩陣分解算法。近幾年來，非負性成為稀疏特征提取的流行約束方法，然而仍有許多理論或未知問題需要解決： 為什么和什么時候非負性有利于稀疏特征的學習、為什么非負性要同時施加在成分矩陣和系數(shù)矩陣上、去掉某個矩陣上的非負性約束對稀疏特征提取有什么影響等。針對這些問題，我們首先建立了一個稀疏矩陣分解的框架性算法。然后在該框架體系下討論各種約束對稀疏特征提

4、取的影響，并從理論上分析非負性約束的作用和不足之處。此外，針對框架算法的優(yōu)化問題，本文還提出了基于平緩優(yōu)化策略的交替式迭代優(yōu)化過程，從而得到更好的局部最優(yōu)解。本文在稀疏算法研究方面的另外一個貢獻是釋放了非負矩陣分解算法中對系數(shù)矩陣的非負性約束，并結(jié)合其他約束方法，發(fā)展了新的稀疏算法。通過理論和實驗分析，我們發(fā)現(xiàn)這種單邊非負矩陣分解算法不但有利于提取(更)稀疏的特征，同時能更好地保證數(shù)據(jù)描述能力，即避免丟失過多重建信息，而且有更好的識別效

5、用。在鑒別信息提取方面，本文著重研究Fisher鑒別分析(LDA)的小樣本問題。本文將LDA的小樣本問題分為狹義小樣本問題和廣義小樣本問題，其中狹義小樣本問題是指類內(nèi)協(xié)方差矩陣的奇異性問題，而廣義小樣本問題是指由于樣本量不足而造成對LDA中統(tǒng)計量估計的偏差問題。針對LDA的小樣本問題，本文有如下的工作，其中第1和第2點針對狹義小樣本問題而第3點針對廣義小樣本問題： 1.理論分析了主成分選擇對LDA降維影響，并發(fā)展了基于遺傳算法主

6、成分選擇的LDA算法。首先，我們提出了PCA降維定理，這從數(shù)學上證明一定存在一組主成分使得降維后類內(nèi)協(xié)方差矩陣非奇異；同時給出了實際例子說明并不是任意主成分的組合都滿足該定理的條件。其次，我們提出了基于遺傳算法的主成分選擇算法(GA-PCA)，并發(fā)展了基于GA—PCA降維的LDA算法，即GA—Fisher，及提出了降維后LDA算法的快速計算方式。通過實驗，我們發(fā)現(xiàn)并不是所有對應(yīng)于大特征值的主成分都含有比對應(yīng)于小特征值的主成分多的鑒別信息

7、。適當選取對應(yīng)于小特征值的主成分，有利于在降維的同時，保留更有用的鑒別信息。 2.在理論和實驗上全面比較基于樣本向量表示的I．DA(1D-LDA)和基于樣本矩陣表示的LDA(2D-LDA)算法。在理論上深入分析了2D-LDA優(yōu)點和不足之處以及探討1D-LDA什么時候會比2D-LDA好，并且給出了2D—LDA為貝葉斯最優(yōu)的充分條件，并將之與1D—LDA的進行比較。大量的實驗獲得了部分與以往研究不同的實驗結(jié)論，從而給出了1D-LDA