基于矩陣的2D度量學(xué)習(xí)和空間結(jié)構(gòu)化歐拉核的研究與應(yīng)用.pdf

1、度量是機(jī)器學(xué)習(xí)領(lǐng)域中的熱點問題之一，很多機(jī)器學(xué)習(xí)算法的性能都嚴(yán)重依賴于數(shù)據(jù)的度量（如KNN算法)。度量學(xué)習(xí)作為一種學(xué)習(xí)與特定任務(wù)以及數(shù)據(jù)相關(guān)的度量方法己被廣泛用于分類、聚類和信息檢索等領(lǐng)域。隨著機(jī)器學(xué)習(xí)理論的發(fā)展和學(xué)習(xí)任務(wù)的復(fù)雜化、多樣化，度量學(xué)習(xí)也取得了眾多成果并形成了一個龐大的框架。但這些算法大多是基于向量的1D算法，當(dāng)處理具有結(jié)構(gòu)的矩陣數(shù)據(jù)時也要將其向量化后進(jìn)行處理，這就忽略了矩陣數(shù)據(jù)內(nèi)在的空間結(jié)構(gòu)信息。為了利用數(shù)據(jù)內(nèi)在的空間結(jié)構(gòu)

2、信息，最直接的方法是直接使用矩陣數(shù)據(jù)進(jìn)行計算，即基于矩陣的2D算法。自Yang等人將向量主成分分析(1D-PCA)推廣至面向圖像的2D-PCA以來，眾多基于向量的1D形式算法己經(jīng)被相繼推廣到其對應(yīng)的2D形式。雖然從寬泛的角度上來說己經(jīng)出現(xiàn)了一些2D的度量學(xué)習(xí)算法，但這些已有的2D算法并不具有通用性，而且度量學(xué)習(xí)中比較經(jīng)典的基于成對約束的全局度量學(xué)習(xí)算法仍然沒有其相應(yīng)的2D形式。
　　本文在基于成對約束的全局度量學(xué)習(xí)算法的基礎(chǔ)上提出

3、2D度量學(xué)習(xí)算法。其主要特點是利用矩陣數(shù)據(jù)進(jìn)行計算，并通過結(jié)構(gòu)化的度量矩陣體現(xiàn)矩陣數(shù)據(jù)的空間結(jié)構(gòu)信息，并通過實驗證明，其在處理圖像數(shù)據(jù)時獲得了較原1D方法更好的性能。
　　另一方面，相比傳統(tǒng)1D算法，盡管2D算法在處理矩陣數(shù)據(jù)時取得了較好的結(jié)果，但仍有其不足。主要表現(xiàn)在：（1）2D算法幾乎都是線性的，因此對作線性數(shù)據(jù)處理的能力有限；（2）2D算法的空間結(jié)構(gòu)信息利用仍不夠充分。
　　本文針對不足（1），通過核方法進(jìn)行改進(jìn)，但相

4、對于1D算法，2D算法因難以利用表示定理而導(dǎo)致核化困難，因此本文繞過表示定理，通過改變度量獲得一個簡潔的核化方法。本文針對不足（2），通過在核空間對空間結(jié)構(gòu)信息進(jìn)行補(bǔ)償?shù)姆绞絹砭徑?。但這需要在核空間中描述矩陣數(shù)據(jù)的空間結(jié)構(gòu)，如果使用隱式核進(jìn)行核化會導(dǎo)致矩陣數(shù)據(jù)空間結(jié)構(gòu)可能的扭曲，從而使對空間結(jié)構(gòu)信息的描述和利用變得困難；如果使用顯式核進(jìn)行核化，會導(dǎo)致維數(shù)災(zāi)難而失去隱式核的優(yōu)勢。因此本文采用一個顯式、等維且各分量非耦合的映射，從而自然地描