非負(fù)低秩組稀疏矩陣分解及其圖像檢索應(yīng)用.pdf

1、大數(shù)據(jù)時(shí)代，人類(lèi)在生產(chǎn)、生活中積累了大量的數(shù)據(jù)，但是真正有用的信息卻相對(duì)較少，急需發(fā)展大數(shù)據(jù)挖掘技術(shù)。國(guó)家“互聯(lián)網(wǎng)+”戰(zhàn)略的推進(jìn)，將更為廣泛的積累數(shù)據(jù)，尤其是互聯(lián)網(wǎng)上傳播的音視頻、圖片、網(wǎng)頁(yè)等，呈爆炸式增長(zhǎng)趨勢(shì)，大數(shù)據(jù)挖掘?qū)⑦@些數(shù)據(jù)轉(zhuǎn)化成可資人使用的信息。人類(lèi)基因組計(jì)劃、蛋白質(zhì)組計(jì)劃和腦計(jì)劃的推進(jìn)，生物數(shù)據(jù)迅速積累，大數(shù)據(jù)挖掘利用微觀世界的數(shù)據(jù)協(xié)助醫(yī)療、促進(jìn)健康。
　　在求解大數(shù)據(jù)挖掘難題中，機(jī)器學(xué)習(xí)技術(shù)的發(fā)展給人類(lèi)帶來(lái)了曙光。近

2、年來(lái)，深度學(xué)習(xí)技術(shù)尤其引人矚目！但是，深度學(xué)習(xí)技術(shù)需要大量的樣本訓(xùn)練模型，對(duì)少量的樣本做推理和預(yù)測(cè)，這種約束過(guò)于苛刻。傳統(tǒng)的機(jī)器學(xué)習(xí)技術(shù)對(duì)訓(xùn)練數(shù)據(jù)的規(guī)模約束較輕，不失為目前最流行的深度學(xué)習(xí)技術(shù)的有益補(bǔ)充。因此，本文探討傳統(tǒng)機(jī)器學(xué)習(xí)技術(shù)在大數(shù)據(jù)挖掘中的應(yīng)用。
　　傳統(tǒng)的機(jī)器學(xué)習(xí)技術(shù)琳瑯滿(mǎn)目，如支持向量機(jī)、線性判別分析、K-均值聚類(lèi)等，它們?cè)谔幚砀呔S數(shù)據(jù)時(shí)因?yàn)槿哂嗵卣鞫阅苁軗p，因此需要發(fā)展數(shù)據(jù)降維方法從冗余的高維數(shù)據(jù)中提取關(guān)鍵特征。

3、主成分分析是一種典型的數(shù)據(jù)降維方法，雖然它性能優(yōu)異，但是在處理非負(fù)數(shù)據(jù)時(shí)，非負(fù)矩陣分解因提取局部特征而性能更優(yōu)。
　　非負(fù)矩陣分解（Non-negative Matrix Factorization，NMF）受到國(guó)內(nèi)外研究人員的廣泛重視和廣泛應(yīng)用，然而它不能在捕捉樣本數(shù)據(jù)類(lèi)內(nèi)關(guān)系的同時(shí)保持不受異常值的影響。本文提出一種新的非負(fù)矩陣分解方法，即非負(fù)低秩組稀疏矩陣分解（Non-negative Low-rank and Group-s

4、parse Matrix Factorization，NLRGS），主要工作歸納如下：
　　1）低秩表達(dá)稀疏分解可以從被污染的觀測(cè)數(shù)據(jù)恢復(fù)數(shù)據(jù)的低秩部分同時(shí)捕捉散點(diǎn)，也就是稀疏成分。為了獲得樣本類(lèi)內(nèi)關(guān)系、識(shí)別出異常值和保留NMF的非負(fù)性和基于部分的表達(dá)特性，NLRGS在NMF基礎(chǔ)上加入低秩約束和組稀疏約束。
　　2）NLRGS的目標(biāo)函數(shù)是非凸的，不易求解，包含多個(gè)等式約束以及低秩約束和組稀疏約束，本文提出用增廣拉格朗日方法去

5、除等式約束為無(wú)約束的算法求解問(wèn)題，對(duì)目標(biāo)函數(shù)進(jìn)行優(yōu)化求解，構(gòu)造NLRGS的求解算法。
　　3）將 NLRGS用于基于內(nèi)容的圖像檢索應(yīng)用中的聚類(lèi)步驟，并針對(duì) NLRGS求解過(guò)程改進(jìn)圖像檢索的編碼方式。
　　4）為了解決大規(guī)模圖像檢索問(wèn)題，提出并行化NLRGS并將使用旋轉(zhuǎn)尺度不變性特征的圖像檢索流程并行化。
　　數(shù)值實(shí)驗(yàn)結(jié)果表明，NLRGS的圖像聚類(lèi)性能不僅在人臉數(shù)據(jù)上優(yōu)于傳統(tǒng)NMF方法，圖像檢索中效果也優(yōu)于傳統(tǒng)的基于K-