基于正則化方法的非負矩陣分解算法及其應用研究.pdf

1、近年來，隨著識別技術在自然資源分析、天氣預報、導航、地圖與地形配準、環(huán)境監(jiān)測等領域的廣泛應用，各種理論和方法也被大量應用于其中，非負矩陣分解方法作為一種代表性的矩陣分解方法也被受到了廣泛的關注。非負矩陣分解方法是一種子空間分析方法，其本質(zhì)是一種特征提取和選擇的方法。其基本思想是在樣本空間中尋找合適的子空間，通過將高維樣本投影到低維子空間上，從而在子空間上獲得樣本的本質(zhì)特征，利用這些特征實現(xiàn)分類識別。非負矩陣分解方法作為一項數(shù)據(jù)處理技術，

2、揭示了數(shù)據(jù)的本質(zhì)，已經(jīng)被廣泛應用到人臉檢測與識別、文本分析和聚類等諸多方面的研究中。流形學習目前已經(jīng)成為機器學習及模式識別等領域的研究熱點之一，其主要目標是發(fā)現(xiàn)高維空間數(shù)據(jù)的低維光滑流形?；诹餍螌W習的矩陣分解方法是應用比較廣泛的一種特征抽取方法。本文通過挖掘數(shù)據(jù)本身固有的幾何結(jié)構(gòu)及利用少量監(jiān)督信息，對基于流形學習的矩陣分解算法進行了研究，提出了幾種新的矩陣分解算法，同時在提升分解矩陣稀疏表示能力方面對非負矩陣分解算法作出了一些改進。<

3、br>　　本文的主要工作和創(chuàng)新成果點集中在以下幾個方面:
　　(1)在基于交替非負最小二乘的非負矩陣分解(ANLS-NMF)算法的框架流程、投影梯度算法的算法結(jié)構(gòu)和非負矩陣下逼近分解(NMU)算法的基礎上。以減少算法時間復雜度為目標，將投影梯度方法和非負矩陣下逼近分解方法相結(jié)合，提出了基于投影梯度非負矩陣的下逼近分解(PGNMU)算法。
　　(2)在基于正交子空間非負矩陣分解(NMFOS)算法的基礎上，考慮分解所得矩陣的稀疏

4、表示能力，引入對分解矩陣的平滑l0范數(shù)約束，提出了基于平滑l0范數(shù)約束的正交子空間非負矩陣分解(NMFOS-SL0)算法。在該算法中，通過對分解矩陣引入平滑l0范數(shù)的約束，使得分解所得矩陣的稀疏性得以增強。
　　(3)在流形正則化的非負矩陣分解(NMF-KNN)算法的基礎上，利用模糊集理論，提出了基于模糊K最近鄰圖的非負矩陣分解(NMF-FKNN)算法。在該方法中，首先根據(jù)模糊K最近鄰算法來構(gòu)造類內(nèi)和類間KNN圖，即類內(nèi)模糊KNN

5、圖和類間模糊KNN圖，然后將這兩個圖嵌入至非負矩陣分解的目標函數(shù)中，最后通過交替迭代更新規(guī)則來進行求解，并證明了在該交替迭代更新規(guī)則下目標函數(shù)的收斂性。
　　(4)在概念分解模型框架下，同時考慮了數(shù)據(jù)流形和特征流形的幾何結(jié)構(gòu)，并分別在數(shù)據(jù)空間和特征空間創(chuàng)建兩個近鄰圖來反映它們各自的分布流形結(jié)構(gòu)，提出了一種雙圖正則化的概念分解框架。在此框架下，首先給出了該雙圖正則化的概念分解模型，其次推導了該模型的交替迭代更新規(guī)則，最后證明了在該交