面向圖像分類的主動學(xué)習(xí)算法研究.pdf

1、圖像分類是計算機(jī)視覺、模式識別領(lǐng)域的研究熱點(diǎn)，在智能交通、安全監(jiān)控、機(jī)器人導(dǎo)航等領(lǐng)域有著廣泛的應(yīng)用。在圖像分類中，需要大量有標(biāo)記的樣本來訓(xùn)練穩(wěn)定的分類模型，以實現(xiàn)對未知圖像的準(zhǔn)確分類。但是在實際應(yīng)用中，有標(biāo)記的圖像數(shù)量非常之少，無標(biāo)記的圖像卻隨處可見，且圖像的人工標(biāo)記是件費(fèi)時費(fèi)力的工作。為了減少人工標(biāo)記工作量，主動學(xué)習(xí)(Active Learning)技術(shù)被引入到圖像分類中。
　　主動學(xué)習(xí)的主要思想是:在大量未標(biāo)記的樣本中，采用某

2、種策略，挑選少量最有信息量且最具代表性的樣本交給專家進(jìn)行標(biāo)記。使用標(biāo)記過的樣本訓(xùn)練模型，實現(xiàn)對未知樣本的準(zhǔn)確分類。主動學(xué)習(xí)的核心技術(shù)是如何設(shè)計準(zhǔn)則來挑選最具信息量的樣本，以最大程度提升分類模型的性能。
　　本文研究面向圖像分類的主動學(xué)習(xí)技術(shù)，提出了幾種新的主動學(xué)習(xí)方法，通過圖像分類實驗驗證了它們的有效性。
　　本文的主要工作和創(chuàng)新點(diǎn)集中在以下幾個方面:
　　首先，在最優(yōu)實驗設(shè)計(OED)算法的基礎(chǔ)上，考慮樣本之間的近鄰

3、重構(gòu)關(guān)系，提出一種近鄰保持的實驗設(shè)計方法(NPDOD)。傳統(tǒng)的OED只考慮標(biāo)記樣本的平方誤差，而忽視了未標(biāo)記樣本的信息。受到局部線性重構(gòu)(LLE)的啟發(fā)，本文假設(shè)樣本的類別標(biāo)簽也可以由其近鄰樣本的標(biāo)簽近似重構(gòu)。NPDOD方法在最小化回歸平方誤差的同時，也最小化近鄰樣本的類別重構(gòu)誤差，使得回歸模型方差最小的樣本被認(rèn)為是最有信息量的樣本，被挑選標(biāo)記且用于訓(xùn)練模型。
　　其次，提出基于動態(tài)規(guī)劃的多準(zhǔn)則組合主動學(xué)習(xí)方法。傳統(tǒng)的主動學(xué)習(xí)方法

4、僅僅依賴于一個準(zhǔn)則抽樣，如樣本的不確定性、密度等，但是忽視了樣本間的冗余性等信息。針對沒有初始標(biāo)記樣本的情況，提出最大密度最小冗余的主動學(xué)習(xí)方法(MDMR)，該方法可以挑選密度大且冗余性小的樣本進(jìn)行標(biāo)記;對于有少量初始標(biāo)記樣本的情況，提出一種不確定性與多樣性組合的主動學(xué)習(xí)方法(AL_UD)，挑選不確定性大、冗余性小的樣本標(biāo)記。這兩種方法都將兩個準(zhǔn)則有效的結(jié)合在一起，將樣本選擇問題，近似的轉(zhuǎn)變成一個動態(tài)規(guī)劃問題。
　　此外，提出基于

5、二次規(guī)劃和子模塊函數(shù)的多準(zhǔn)則主動學(xué)習(xí)方法。該方法在挑選樣本時，綜合考慮了樣本的不確定度、密度和冗余信息，提出了一種新的抽樣模型。該模型可以通過二次規(guī)劃方法和子模塊函數(shù)方法近似的求解。在二次規(guī)劃方法中，采用增廣拉格朗日乘子法以更快得求得最優(yōu)解;在子模塊函數(shù)方法中，使用了一種貪婪算法，子模塊函數(shù)的性質(zhì)保證了最終解與全局最優(yōu)解的逼近程度。
　　最后，提出基于半監(jiān)督學(xué)習(xí)的主動學(xué)習(xí)方法。主動學(xué)習(xí)方法只能利用標(biāo)記的樣本而忽視了未標(biāo)記樣本。半監(jiān)