近鄰法與多視角學(xué)習(xí)的理論與算法研究.pdf

1、本文分別對近鄰法、多視角學(xué)習(xí)以及組合學(xué)習(xí)進(jìn)行了相關(guān)的理論和算法的研究，并對它們分別進(jìn)行了改進(jìn)。
　　 在實際應(yīng)用中，近鄰法是一種應(yīng)用廣泛而且簡單有效的方法。但傳統(tǒng)的近鄰法仍有其不足之處，它在預(yù)測過程中沒有完全利用近鄰的全部信息。針對其這一缺點，本文對近鄰法進(jìn)行了改進(jìn)。在新的近鄰法中，用于預(yù)測樣本標(biāo)簽的距離不再是查詢點與近鄰訓(xùn)練樣本的直接距離，而是查詢點與其近鄰們的“重心”之間的距離。這里的“重心”指的就是能夠體現(xiàn)近鄰分布信息的近

2、鄰的“形心”。這樣以來，在預(yù)測過程當(dāng)中不但標(biāo)簽信息得到運用，分布信息也被考慮在內(nèi)。在文章當(dāng)中，我們對這個方法進(jìn)行了詳細(xì)的描述和分析。另外，在實驗中我們在12個公共數(shù)據(jù)集上分別采用馬氏距離和歐式距離的度量方式進(jìn)行了實驗。實驗證明，形心近鄰法能夠提高傳統(tǒng)近鄰法的分類精度。
　　 多視角學(xué)習(xí)是近年來機(jī)器學(xué)習(xí)領(lǐng)域的一個熱門的研究方向。多視角學(xué)習(xí)方法利用事物的兩個獨立或不相關(guān)的視角以特定的訓(xùn)練方式來進(jìn)行學(xué)習(xí)。許多理論和實驗都能證明多視角學(xué)

3、習(xí)能夠大大提高學(xué)習(xí)的效果。同時，一些研究人員證明采用多學(xué)習(xí)機(jī)的組合學(xué)習(xí)也能夠提高學(xué)習(xí)的效果。但尚未有人將多視角學(xué)習(xí)與組合學(xué)習(xí)相結(jié)合來解決模式識別領(lǐng)域內(nèi)的學(xué)習(xí)問題。本文依此對多視角學(xué)習(xí)與組合學(xué)習(xí)的結(jié)合做了一些相關(guān)研究。并提出了多視角多學(xué)習(xí)機(jī)的學(xué)習(xí)方法，并將其應(yīng)用到半監(jiān)督學(xué)習(xí)和主動學(xué)習(xí)領(lǐng)域。與此同時，本文也提出了一種稱為模糊度的度量方法來計算視角之間對樣本預(yù)測的分歧程度。從實驗結(jié)果來看，這種方法是一種非常有效的方法。
　　 在多視角

4、學(xué)習(xí)的領(lǐng)域內(nèi)，有一個瓶頸的問題。多視角學(xué)習(xí)雖然可以很有效的提高學(xué)習(xí)效果，但是并不是所有問題都有多個內(nèi)在的視角，這就意味著單視角問題是不能夠用多視角學(xué)習(xí)方法來解決的。這就大大限制了多視角學(xué)習(xí)方法的應(yīng)用范圍。針對這個問題，本文提出了一種為單視角問題創(chuàng)建額外視角的方法。該方法利用PCA方法去產(chǎn)生原問題的另一個視角。另外，針對高維問題和非高維問題，文章也提出了不同的創(chuàng)建多視角策略。該方法在多個標(biāo)準(zhǔn)數(shù)據(jù)集上進(jìn)行了實驗，實驗結(jié)果表明該方法所創(chuàng)建的視

5、角是有用的，而且能夠幫助學(xué)習(xí)方法提高學(xué)習(xí)效果。
　　 集成學(xué)習(xí)是將多個分類器以某種組合方式組合在一起進(jìn)行學(xué)習(xí)。在傳統(tǒng)的集成學(xué)習(xí)中，分類器的產(chǎn)生大都是并行的。也就意味著，參與集成的分類器數(shù)量越多，訓(xùn)練分類器的時間就越長。針對集成學(xué)習(xí)的這一缺點，本文提出了一種演化的集成學(xué)習(xí)方法。在該方法中，分類器不是以并行的方式產(chǎn)生的，而是以演化的形式產(chǎn)生的。在文章當(dāng)中，詳細(xì)地敘述了這種方法的過程和假設(shè)條件，并且將其推廣到多視角的演化集成學(xué)習(xí)方法。