面向圖像分類(lèi)的主動(dòng)學(xué)習(xí)算法研究.pdf

1、圖像分類(lèi)是計(jì)算機(jī)視覺(jué)、模式識(shí)別領(lǐng)域的研究熱點(diǎn)，在智能交通、安全監(jiān)控、機(jī)器人導(dǎo)航等領(lǐng)域有著廣泛的應(yīng)用。在圖像分類(lèi)中，需要大量有標(biāo)記的樣本來(lái)訓(xùn)練穩(wěn)定的分類(lèi)模型，以實(shí)現(xiàn)對(duì)未知圖像的準(zhǔn)確分類(lèi)。但是在實(shí)際應(yīng)用中，有標(biāo)記的圖像數(shù)量非常之少，無(wú)標(biāo)記的圖像卻隨處可見(jiàn)，且圖像的人工標(biāo)記是件費(fèi)時(shí)費(fèi)力的工作。為了減少人工標(biāo)記工作量，主動(dòng)學(xué)習(xí)(Active Learning)技術(shù)被引入到圖像分類(lèi)中。
　　主動(dòng)學(xué)習(xí)的主要思想是:在大量未標(biāo)記的樣本中，采用某

2、種策略，挑選少量最有信息量且最具代表性的樣本交給專(zhuān)家進(jìn)行標(biāo)記。使用標(biāo)記過(guò)的樣本訓(xùn)練模型，實(shí)現(xiàn)對(duì)未知樣本的準(zhǔn)確分類(lèi)。主動(dòng)學(xué)習(xí)的核心技術(shù)是如何設(shè)計(jì)準(zhǔn)則來(lái)挑選最具信息量的樣本，以最大程度提升分類(lèi)模型的性能。
　　本文研究面向圖像分類(lèi)的主動(dòng)學(xué)習(xí)技術(shù)，提出了幾種新的主動(dòng)學(xué)習(xí)方法，通過(guò)圖像分類(lèi)實(shí)驗(yàn)驗(yàn)證了它們的有效性。
　　本文的主要工作和創(chuàng)新點(diǎn)集中在以下幾個(gè)方面:
　　首先，在最優(yōu)實(shí)驗(yàn)設(shè)計(jì)(OED)算法的基礎(chǔ)上，考慮樣本之間的近鄰

3、重構(gòu)關(guān)系，提出一種近鄰保持的實(shí)驗(yàn)設(shè)計(jì)方法(NPDOD)。傳統(tǒng)的OED只考慮標(biāo)記樣本的平方誤差，而忽視了未標(biāo)記樣本的信息。受到局部線(xiàn)性重構(gòu)(LLE)的啟發(fā)，本文假設(shè)樣本的類(lèi)別標(biāo)簽也可以由其近鄰樣本的標(biāo)簽近似重構(gòu)。NPDOD方法在最小化回歸平方誤差的同時(shí)，也最小化近鄰樣本的類(lèi)別重構(gòu)誤差，使得回歸模型方差最小的樣本被認(rèn)為是最有信息量的樣本，被挑選標(biāo)記且用于訓(xùn)練模型。
　　其次，提出基于動(dòng)態(tài)規(guī)劃的多準(zhǔn)則組合主動(dòng)學(xué)習(xí)方法。傳統(tǒng)的主動(dòng)學(xué)習(xí)方法

4、僅僅依賴(lài)于一個(gè)準(zhǔn)則抽樣，如樣本的不確定性、密度等，但是忽視了樣本間的冗余性等信息。針對(duì)沒(méi)有初始標(biāo)記樣本的情況，提出最大密度最小冗余的主動(dòng)學(xué)習(xí)方法(MDMR)，該方法可以挑選密度大且冗余性小的樣本進(jìn)行標(biāo)記;對(duì)于有少量初始標(biāo)記樣本的情況，提出一種不確定性與多樣性組合的主動(dòng)學(xué)習(xí)方法(AL_UD)，挑選不確定性大、冗余性小的樣本標(biāo)記。這兩種方法都將兩個(gè)準(zhǔn)則有效的結(jié)合在一起，將樣本選擇問(wèn)題，近似的轉(zhuǎn)變成一個(gè)動(dòng)態(tài)規(guī)劃問(wèn)題。
　　此外，提出基于

5、二次規(guī)劃和子模塊函數(shù)的多準(zhǔn)則主動(dòng)學(xué)習(xí)方法。該方法在挑選樣本時(shí)，綜合考慮了樣本的不確定度、密度和冗余信息，提出了一種新的抽樣模型。該模型可以通過(guò)二次規(guī)劃方法和子模塊函數(shù)方法近似的求解。在二次規(guī)劃方法中，采用增廣拉格朗日乘子法以更快得求得最優(yōu)解;在子模塊函數(shù)方法中，使用了一種貪婪算法，子模塊函數(shù)的性質(zhì)保證了最終解與全局最優(yōu)解的逼近程度。
　　最后，提出基于半監(jiān)督學(xué)習(xí)的主動(dòng)學(xué)習(xí)方法。主動(dòng)學(xué)習(xí)方法只能利用標(biāo)記的樣本而忽視了未標(biāo)記樣本。半監(jiān)