基于集成學習的多標記學習算法研究.pdf

1、在傳統(tǒng)機器學習算法中，一個樣本僅對應單個類別標記。而現(xiàn)實世界中，一個對象往往同時具備多個語義信息。為了對這些多義性對象進行建模，多標記學習算法應運而生。在多標記學習范式下，每個對象以一個示例來描述其特征信息，并以一個與之對應的標記集合來描述其語義信息。集成學習作為一類重要的機器學習技術，可以有效提升學習算法的泛化性能。本文將集成學習技術用于求解多標記學習問題，主要做了如下兩方面的工作:
　　一方面，現(xiàn)實世界的很多應用都可以輕易地獲

2、取大量數(shù)據(jù)，而獲取這些數(shù)據(jù)的真實標記卻極為費時且昂貴，該問題在多標記學習中顯得尤為突出。因此，通過對未標記數(shù)據(jù)的利用來提高學習系統(tǒng)的性能具有重要的研究價值。本文對傳統(tǒng)的協(xié)同訓練半監(jiān)督學習方法進行擴展，提出了一種新的多標記半監(jiān)督學習方法COINS(CO-training for INductive Semi-supervised multi-label learning)。相比于已有直推式多標記半監(jiān)督學習方法，COINS可以實現(xiàn)歸納式學習

3、建模且具有更好的泛化性能。
　　另一方面，多標記學習中各類別標記往往具有其獨特的性質，為每個標記構造反映其特性的類屬屬性是求解多標記學習問題的一類重要技術。LIFT算法通過聚類的方式獲取每個標記的類屬屬性以提高系統(tǒng)性能，但忽視了多標記學習中尤為重要的標記相關性。本文通過聚類集成的方式將標記相關性引入類屬屬性的生成過程，提出了基于聚類集成的類屬屬性多標記學習算法LIFTACE(multi-label learning with La

4、bel-specIfic FeaTures viA Clustering Emsemble)。相比于LIFT算法，LIFTACE算法可以有效利用聚類集成機制獲得更好的泛化性能。
　　本文共分為五章。第一章主要介紹多標記學習的基本概念、研究現(xiàn)狀，以及仍有待研究的問題;第二章給出多標記學習的問題定義，并針對有待研究的問題分析討論了5種已有的多標記學習算法;第三章和第四章分別介紹兩種基于集成學習的多標記學習算法，即基于協(xié)同訓練的半監(jiān)督多