非負矩陣分解及其在非均衡數(shù)據(jù)分類中的應(yīng)用.pdf

1、非負矩陣分解(NMF)是一種處理大規(guī)模高維數(shù)據(jù)的矩陣分解方法，它以非負約束和局部表示等獨特的優(yōu)勢吸引了眾多研究者的關(guān)注，并被廣泛地應(yīng)用于數(shù)據(jù)挖掘、計算機視覺和模式識別等領(lǐng)域。此外，實際的分類問題中存在很多非均衡數(shù)據(jù)，包括密度不均衡、類別不均衡和常見的樣本數(shù)目不均衡等情況?；诖?，本文重點研究了基于數(shù)據(jù)結(jié)構(gòu)信息的非負矩陣分解算法和面向非均衡數(shù)據(jù)分類的非負矩陣分解算法。
　　首先，概述了非負矩陣分解及非均衡數(shù)據(jù)分類的基礎(chǔ)理論。給出了N

2、MF基本算法、數(shù)學(xué)求解方法，以及經(jīng)典的衍生算法；并總結(jié)了數(shù)目不均衡數(shù)據(jù)的分類難點及常用的抽樣處理方法。
　　其次，針對基于圖信息的非負矩陣分解僅用歐式距離來衡量樣本鄰域結(jié)構(gòu)的局限性，將鄰域樣本相似度引入非負矩陣分解，提出一種基于鄰域樣本相似度的非負矩陣分解算法(NSS-NMF)。該方法通過引入鄰域協(xié)方差矩陣來計算鄰域樣本相似度，對于鄰域結(jié)構(gòu)相似的樣本點，其分解所得的系數(shù)矩陣的約束項被賦予較高的權(quán)值，以適應(yīng)于樣本密度不均衡的情況；進

3、一步，引入鄰域類標相似度，并考慮基向量的正交性，提出一種基于鄰域相似度的非負矩陣分解算法(NS-NMF)。該方法在考慮鄰域樣本相似度的基礎(chǔ)上，根據(jù)鄰域樣本的已知類標信息構(gòu)建鄰域類標分布矩陣，這樣組合得到的鄰域相似度有效地兼顧到數(shù)據(jù)類別分布不均衡的情況。實驗結(jié)果表明，上述基于數(shù)據(jù)結(jié)構(gòu)信息的非負矩陣分解算法可以獲得比傳統(tǒng)方法更好的聚類分類性能。
　　最后，針對常見的非均衡數(shù)據(jù)問題（即樣本數(shù)目不均衡），提出一種新的加權(quán)非負矩陣分解算法(

4、WNMF)。該方法通過計算每類樣本數(shù)在總樣本數(shù)中的比例，求其倒數(shù)作為訓(xùn)練樣本的權(quán)值引入非負矩陣分解，因此在保持了多數(shù)類分類準確性的同時，有效地提升了少數(shù)類樣本的分類性能。此外，結(jié)合NS-NMF算法考慮了鄰域結(jié)構(gòu)信息的優(yōu)點，提出一種基于非負矩陣分解的混合重采樣算法(HS-NMF)。該方法先通過NS-NMF將數(shù)據(jù)集映射到更加可分的子空間，再通過經(jīng)典的過采樣、欠采樣技術(shù)改善數(shù)據(jù)的不均衡程度。實驗結(jié)果表明，將非負矩陣分解應(yīng)用于非均衡數(shù)據(jù)分類中，