多標簽特征選擇的兩種算法研究.pdf

1、區(qū)別于傳統(tǒng)的監(jiān)督學習中每個樣本只屬于一個類別標簽的學習框架，多標簽學習中的一個樣本同時標注為多個類別標簽的學習框架能夠更有效地分析現(xiàn)實世界中所存在的問題。多標簽學習是一個具有挑戰(zhàn)性的研究課題，來源于文本分類中所遇到的多義性問題。近十幾年來，吸引了越來越多的研究人員的興趣，并應用到很多新的領域，如生物信息學、多媒體自動標注以及情感分類等。學者們已經(jīng)提出了一系列多標簽分類算法，然而高維數(shù)據(jù)中的大量不相關、冗余的特征導致了分類器性能的降低。因

2、此，特征選擇作為一種高效的數(shù)據(jù)降維技術，在多標簽學習中可以起到關鍵的作用。目前，針對多標簽學習的特征選擇問題的研究相對較少。為此，本文圍繞該問題，將非負矩陣分解和流形學習技術應用到多標簽學習中，提出了兩種多標簽特征選擇算法。主要研究工作如下：
　　1.提出了一種基于非負稀疏表示的多標簽特征選擇算法。首先，我們引入子空間學習用于多標簽特征選擇，并在矩陣分解過程中對指示矩陣加以非負和稀疏約束。然后，我們設計一種高效的矩陣更新迭代算法，

3、用以求解矩陣的非負約束和L2,1-范數(shù)最小優(yōu)化的融合問題。最后，實驗結(jié)果表明了該算法在多標簽數(shù)據(jù)集上有著較優(yōu)的特征選擇性能。
　　2.提出了一種基于特征流形和稀疏正則化的多標簽特征選擇算法。首先，我們利用最小二乘回歸模型把多標簽特征選擇形式化成一個帶有正則項的矩陣分解問題，用回歸系數(shù)矩陣評估特征重要度。然后，我們將特征流形和稀疏約束嵌入到優(yōu)化問題框架中，試圖獲得平滑的、行稀疏的回歸系數(shù)矩陣。最后，我們設計出一種高效的矩陣更新迭代算