多標(biāo)記維度約減和分類(lèi)算法研究.pdf

1、多標(biāo)記學(xué)習(xí)來(lái)源于文本分類(lèi)問(wèn)題的研究,現(xiàn)實(shí)生活中很多基于機(jī)器學(xué)習(xí)的問(wèn)題都可以看作是多標(biāo)記學(xué)習(xí)。傳統(tǒng)監(jiān)督學(xué)習(xí)中每個(gè)示例僅僅具有單個(gè)標(biāo)記,但是多標(biāo)記學(xué)習(xí)中每個(gè)示例擁有多個(gè)標(biāo)記。為了提高多標(biāo)記學(xué)習(xí)中分類(lèi)的準(zhǔn)確率,示例的大量原始特征被采集,導(dǎo)致輸入空間維數(shù)非常高,從而造成“維數(shù)災(zāi)難”問(wèn)題。因此,如何從輸入空間的高維特征向量中獲取有效的低維數(shù)據(jù),對(duì)于提高多標(biāo)記分類(lèi)問(wèn)題的準(zhǔn)確率有重要意義。本文的研究重點(diǎn)是多標(biāo)記分類(lèi)中的維度約減算法和多標(biāo)記分類(lèi)算法。本

2、文主要工作內(nèi)容如下:
　　(1)介紹多標(biāo)記學(xué)習(xí)、常見(jiàn)的維度約減算法和流形學(xué)習(xí)算法。流形學(xué)習(xí)算法能夠從高維特征向量數(shù)據(jù)中獲取低維流形結(jié)構(gòu),并且從高維特征向量數(shù)據(jù)映射到低維特征空間時(shí),能夠保留高維數(shù)據(jù)中局部鄰域間的相互關(guān)系。但是局部線(xiàn)性嵌入流形學(xué)習(xí)(Locally Linear Embedding,LLE)算法的近鄰點(diǎn)個(gè)數(shù)是固定的,不能剔除流形中的小規(guī)模結(jié)構(gòu)和不能避免將連續(xù)的流形分割為不相關(guān)的子流形。因此,如何選取近鄰點(diǎn)個(gè)數(shù)成為一個(gè)重

3、要的問(wèn)題。
　　(2)研究了在已標(biāo)記數(shù)據(jù)比較少但是未標(biāo)記數(shù)據(jù)大量存在的場(chǎng)景下,多標(biāo)記分類(lèi)正確率不高的問(wèn)題。由于實(shí)際場(chǎng)景中輸入空間的高維特征向量數(shù)據(jù)僅有少量被標(biāo)記,大部分?jǐn)?shù)據(jù)都沒(méi)有標(biāo)記。為了有效去除冗余特征并使用大量未標(biāo)記樣本所提供的潛在信息,需要使用半監(jiān)督學(xué)習(xí)方法。為了能夠利用類(lèi)別已知的示例的監(jiān)督信息,又利用大量類(lèi)別未知的示例的統(tǒng)計(jì)信息進(jìn)行維度約減;并且確定合適的近鄰點(diǎn)個(gè)數(shù),本文提出一種可變 K近鄰半監(jiān)督局部線(xiàn)性嵌入流形維度約減算

4、法(Variable K-Nearest Semi-Supervised Locally Linear Embedding,VKSSLLE)。
　　(3)探討多標(biāo)記分類(lèi)問(wèn)題中出現(xiàn)的數(shù)據(jù)分類(lèi)性能不理想的問(wèn)題,并提出一種基于VKSSLLE維度約減算法的多標(biāo)記樸素貝葉斯分類(lèi)算法。該方法通過(guò)使用可變K近鄰半監(jiān)督流形學(xué)習(xí)算法進(jìn)行維度約減,并引入樸素貝葉斯分類(lèi)器進(jìn)行多標(biāo)記分類(lèi),從而提高多標(biāo)記分類(lèi)的準(zhǔn)確率。利用不同維度約減算法與樸素貝葉斯分類(lèi)器