統(tǒng)計稀疏學習-特征提取、聚類、分類及多特征融合.pdf

1、統(tǒng)計學習作為統(tǒng)計學和人工智能的交叉學科，近年來得到快速發(fā)展，并在諸多領域得到了廣泛的應用，例如數(shù)據(jù)挖掘、機器學習、內(nèi)容檢索、計算機視覺等等。其中基于稀疏理論的統(tǒng)計學習方法因稀疏分解理論、壓縮傳感理論的研究及其成功的廣泛應用，引起了信息科學與統(tǒng)計學等領域研究者的極大關注，并對當前統(tǒng)計學習的研究產(chǎn)生了深刻影響。當前，統(tǒng)計學習領域的學者結(jié)合稀疏特性對傳統(tǒng)統(tǒng)計學習理論和方法進行了豐富和拓展，正逐步形成有特色的統(tǒng)計稀疏學習學科，并成為統(tǒng)計學習與信

2、息處理的重要研究方向。
　　 本文以統(tǒng)計稀疏學習方法為主線，著重在基于統(tǒng)計稀疏學習的數(shù)據(jù)降維、特征提取、遷移學習、聚類及分類等任務方面進行了深入的調(diào)研及探討，并提出了相應的新方法和研究的新思路。其主要內(nèi)容如下:
　　 1.本文首先對于統(tǒng)計稀疏學習方法的研究背景和意義進行了介紹，并對其在視覺問題上的應用進行了探索，然后分析了統(tǒng)計稀疏學習方法在國內(nèi)外的研究現(xiàn)狀。
　　 2.本文對當前的稀疏主元分析進行了調(diào)研，并分析了

3、其若干局限性，特別是當前的方法無法對高階的數(shù)據(jù)進行直接處理，而只能先把數(shù)據(jù)轉(zhuǎn)換成向量進行操作。這樣的轉(zhuǎn)換必然破壞了數(shù)據(jù)之間的空間關系。對于這個問題，本文提出了一個嶄新的稀疏高階數(shù)據(jù)主元分析算法。我們的算法可以直接對基于張量表達的高階數(shù)據(jù)進行分析，以達到數(shù)據(jù)降維和特征提取的效果。
　　 3.對于聚類問題，我們對于當前的一個基于字典學習的方法進行的分析，并對當前最廣泛應用的k-means算法進行考查，然后指出了其在某些方面的局限性。

4、針對這些局限性，我們提出了一個基于稀疏表達和字典學習的多任務聚類算法。我們的算法對于每一個潛在類學習一個字典以表達這個類的特征信息，同時對于所有數(shù)據(jù)學習一個公共字典以捕捉那些被多個類共享的信息。我們的算法以多任務學習的方式進行運作，并相應地提高了聚類性能。
　　 4.本文考察了當前的遷移學習領域中學者還未涉及到的方向，即如何對于無標簽的異構(gòu)數(shù)據(jù)進行無監(jiān)督地遷移以達到增強求解目標任務性能的目的。面對這個問題，我提出了一個基于稀疏表

5、達及字典學習的無監(jiān)督遷移學習算法。我們的算法可以對源域數(shù)據(jù)尋找一個投影空間，以使驅(qū)使著這些異構(gòu)數(shù)據(jù)像目標域數(shù)據(jù)空間靠攏。之后，我們的算法有選擇性的地挑取更有意義的數(shù)據(jù)進行遷移，以提高目標域任務的性能。
　　 5.對于基于稀疏表達和字典學習的圖片分類問題，本文進行了深刻地探討和分析，并指出了當前的前沿方法的缺陷。針對這些缺陷，我們提出了一個新的基于字典學習的圖片分類算法。我們的算法對于每個類都學習一個字典以捕捉那些最具有特色的信息

6、，同時對于所有類學習一個共享字典以表達那些被多個類共享的必要的數(shù)據(jù)重構(gòu)信息。通過我們的算法學習到的字典更加緊湊、更加具有判別能力，更重要的是，我們的算法可以把每個類中最具有判別特征的信息和那些被其他類也共享的信息分離開來，以達到提高分類正確率的效果。
　　 6.本文進一步把基于字典學習的圖片分類算法擴展到了多特征分類任務中。與基于一種特征的圖片分類相比，對于一張圖片的多個特征同時進行分析并依據(jù)多個特征進行分類將能得到更好的分類結(jié)