多標(biāo)簽分類(lèi)問(wèn)題的學(xué)習(xí)

1、多標(biāo)簽分類(lèi)問(wèn)題的學(xué)習(xí),多標(biāo)簽分類(lèi)問(wèn)題是分類(lèi)問(wèn)題中比較復(fù)雜的問(wèn)題，不同于兩類(lèi)分類(lèi)問(wèn)題，它允許問(wèn)題中存在多個(gè)類(lèi)別(或稱(chēng)為標(biāo)簽):不同于多類(lèi)分類(lèi)問(wèn)題，它允許樣本同時(shí)屬于多個(gè)類(lèi)別。由于多標(biāo)簽分類(lèi)問(wèn)題的復(fù)雜性，也就引起了人們研究的興趣?，F(xiàn)實(shí)中存在的多標(biāo)簽分類(lèi)問(wèn)題也很多。一個(gè)比較常見(jiàn)的問(wèn)題是為電影分類(lèi)問(wèn)題，電影的類(lèi)別有很多種，如:科幻、喜劇、動(dòng)作和劇情等等，一部電影也可以同時(shí)擁有多個(gè)類(lèi)別，而且絕大多數(shù)電影都是擁有多個(gè)類(lèi)別的。在許多現(xiàn)實(shí)應(yīng)用中人們己經(jīng)

2、開(kāi)始使用計(jì)算機(jī)來(lái)進(jìn)行多標(biāo)簽分類(lèi)問(wèn)題的研究，在文本分類(lèi)中，可以將一篇文章分類(lèi)到多個(gè)話(huà)題中，如:社會(huì)、科學(xué)、體育和娛樂(lè)等;在風(fēng)景圖像分類(lèi) 中，一幅圖像可以擁有多個(gè)主題，如:樹(shù)林、海灘、山峰和草原等。,目前，多標(biāo)簽分類(lèi)問(wèn)題的算法有兩大類(lèi)，一類(lèi)是基于數(shù)據(jù)集分解的方法，另一類(lèi)是基于單個(gè)優(yōu)化問(wèn)題的方法。,基于數(shù)據(jù)集分解的多標(biāo)簽方法 基于數(shù)據(jù)集分解的多標(biāo)簽方法簡(jiǎn)稱(chēng)為分解方法，它將一個(gè)多標(biāo)簽分類(lèi)問(wèn)題分解為多個(gè)單標(biāo)簽分類(lèi)的子問(wèn)題，然后使用一

3、般的分類(lèi)方法處理這些子問(wèn)題，最后集成這些子問(wèn)題的解得出總的多標(biāo)簽分類(lèi)問(wèn)題的解，因此分解方法一般分為分解、處理和集成三步。分解方法的目的是為了直接使用己經(jīng)存在的單標(biāo)簽分類(lèi)算法，它的特點(diǎn)就在于方便和快速。目前主要的分解策略有“一對(duì)一”和“一對(duì)多”兩種，但根據(jù)處理子問(wèn)題的分類(lèi)算法的不同又有多種具體形式的分類(lèi)算法。,“一對(duì)一”的基于數(shù)據(jù)集分解的多標(biāo)簽方法策略示意圖,“一對(duì)一”的分解策略，是指對(duì)于具有k個(gè)標(biāo)簽的數(shù)據(jù) 集，將任意兩個(gè)標(biāo)簽配對(duì)構(gòu)造一

4、個(gè)分類(lèi)器，只對(duì)含有這兩個(gè)標(biāo)簽的樣本進(jìn)行分類(lèi)，這樣的兩兩配對(duì)共有k（k-l)/2種可能的情況，將會(huì)產(chǎn)生k（k-l)/2個(gè)分類(lèi)器，因此通過(guò)“一對(duì)一”的分解策略可以將一個(gè)多標(biāo)簽分類(lèi)問(wèn)題分解成k(k-1)/2個(gè)單標(biāo)簽分類(lèi)問(wèn)題，對(duì)于這些單標(biāo)簽分類(lèi)問(wèn)題的處理則可以使用各種分類(lèi)方法，如k近鄰算法、貝葉斯算法、支持向量機(jī)算法等。,需要注意的是根據(jù)多標(biāo)簽分類(lèi)問(wèn)題的特點(diǎn)這些子問(wèn)題的樣本可能存在三種類(lèi)型，即:只擁有第一個(gè)標(biāo)簽的樣本，只擁有第二個(gè)標(biāo)簽的樣本和同

5、時(shí)擁有第一和第二標(biāo)簽的樣本。要處理這樣的子問(wèn)題最簡(jiǎn)單的方法是忽略掉同時(shí)擁有第一和第二標(biāo)簽的樣本，如Model-i算法；另一種方法是用兩個(gè)兩類(lèi)分類(lèi)器來(lái)處理這樣的子問(wèn)題，如多標(biāo)簽成對(duì)比較算法；還有一種方法是直接創(chuàng)造一種三類(lèi)的分類(lèi)器來(lái)處理這樣的子問(wèn)題，如平行支持向量機(jī)算法。，,“一對(duì)多”的基于數(shù)據(jù)集分解的多標(biāo)簽方法策略示意圖,“一對(duì)多”的分解策略是指將具有k個(gè)標(biāo)簽的數(shù)據(jù)集分解成k個(gè)兩類(lèi)分類(lèi)器，但是每一個(gè)分類(lèi)器中都要包含所有的樣本，第i號(hào)

6、分類(lèi)器要將擁有第i個(gè)標(biāo)簽的樣本與其余樣本分開(kāi)，對(duì)于這k個(gè)兩類(lèi)分類(lèi)器可以使用各種兩類(lèi)分類(lèi)方法來(lái)解決，如使用k近鄰算法(PT4-kNN ), C4.5算法(PT4- C4.5 )、貝葉斯算法(PT4-NB ) ，以及基于支持向量機(jī)的Binary-SVM算法和PT4-SMO算法。,基于單個(gè)優(yōu)化問(wèn)題的多標(biāo)簽方法 在基于單個(gè)優(yōu)化問(wèn)題的方法中，要求只建立一個(gè)最優(yōu)化問(wèn)題來(lái)處理所有的樣本，并且這些樣本擁有多個(gè)標(biāo)簽，因此建立和計(jì)算這樣的最優(yōu)