圖像分類中流形回歸與非負(fù)矩陣分解研究.pdf

1、近年來，圖像分類已應(yīng)用于眾多領(lǐng)域，如信息安全、遠(yuǎn)程遙感、目標(biāo)追蹤等。眾所周知，特征抽取對數(shù)據(jù)分類特別是模式分類起著特別重要的作用。特征抽取不僅降低了數(shù)據(jù)的復(fù)雜性而且有效地提高了分類精度，但不同的數(shù)據(jù)往往需要不同的特征抽取方法，如何針對不同的數(shù)據(jù)抽取其有效的特征是目前圖像處理和模式識別中所需要解決的關(guān)鍵問題之一，同時也是本文的研究重點。
　　本文針對圖像分類，提出了一些新的線性與非線性的分類算法。本文研究工作主要概括如下。
　

2、?。?）針對特征抽取與圖像分類，提出了一種新的流形回歸學(xué)習(xí)框架，并在這一框架下提出了流形鑒別回歸學(xué)習(xí)（MDRL）和魯棒流形鑒別回歸學(xué)習(xí)（RMDRL）兩種算法。MDRL引入類內(nèi)圖和懲罰圖，利用獲得的投影矩陣將數(shù)據(jù)投影到一個新的子空間，使得同類樣本更緊湊，不同類的樣本距離更遠(yuǎn)。通過添加基于核范數(shù)的正則項，RMDRL學(xué)習(xí)到的低秩變換矩陣能有效提高最小二乘回歸等方法的魯棒性。
　　（2）提出一種新的帶有鑒別性的非負(fù)矩陣分解方法：非負(fù)鑒別矩

3、陣分解(Nonnegative Discriminant Matrix Factorization,NDMF)。NDMF方法將數(shù)據(jù)的低維表達(dá)投影到子空間中用于鑒別子空間的學(xué)習(xí)，并將NMF中的基矩陣與系數(shù)矩陣的信息加以結(jié)合。NDMF方法充分考慮了鑒別性、局部性及基矩陣的正交性。也就是說，NDMF方法將非負(fù)約束、正交約束及鑒別性統(tǒng)一到同一目標(biāo)函數(shù)中，并將基矩陣和系數(shù)矩陣結(jié)合在一起作為正則項提高分類性能。同時，本文還給出基于歐氏距離測度與Ku

4、llback-Leibler(KL)散度的兩種優(yōu)化算法。
　　（3）傳統(tǒng)的NMF方法對含有噪聲的數(shù)據(jù)分類時，分類效果常常不太理想。為解決這個問題，提出了一種新的基于投影學(xué)習(xí)的魯棒NMF框架，即投影魯棒非負(fù)分解（PRNF），該框架給出了現(xiàn)有魯棒NMF方法的總結(jié)。PRNF不僅能夠減弱噪聲對特征抽取學(xué)習(xí)的影響，而且保留了原始數(shù)據(jù)的幾何結(jié)構(gòu)信息從而能獲得更好的表達(dá)。在PRNF框架下，提出了三種具體的算法。這三種算法分別以l1/2, l1及

5、l2,1范數(shù)作為噪聲矩陣的稀疏約束，且同時給出這三種算法對應(yīng)的迭代準(zhǔn)則及收斂性分析。
　　（4）通過將核方法與回歸分析有效地結(jié)合起來，本文提出了核線性回歸分類（KLRC）算法。由于KLRC通過非線性映射將數(shù)據(jù)映射到高維的核空間，可以很好地提高樣本的可分性及獲得高于LRC的分類精度。作為LRC的非線性擴(kuò)展，KLRC能夠很好地彌補LRC的不足。
　　（5）為了有效地改進(jìn)基于保持投影方法的魯棒性，運用保持投影、稀疏性及低秩性來構(gòu)造

6、仿射圖，在本文中提出一種全新的降維方法稱為低秩保持投影(LRPP)。首先，假定數(shù)據(jù)是帶有噪聲的，且噪聲矩陣是稀疏的，l2,1與核范數(shù)作為正則約束添加到噪聲矩陣上；其次，將數(shù)據(jù)投影到由LRPP學(xué)習(xí)到的子空間中再進(jìn)行分類。LRPP在降維過程中保留了數(shù)據(jù)的全局結(jié)構(gòu)信息且學(xué)習(xí)到的低秩權(quán)重矩陣降低了噪聲的影響。
　　綜上所述，本文為了提高分類效果和算法的魯棒性，根據(jù)不同的應(yīng)用場合提出了相應(yīng)的特征抽取算法。經(jīng)過大量的實驗表明，本文的方法達(dá)到了