基于統(tǒng)計(jì)學(xué)習(xí)的多類(lèi)別分類(lèi)器研究.pdf

1、多類(lèi)別分類(lèi)問(wèn)題一直以來(lái)就是機(jī)器學(xué)習(xí)領(lǐng)域中的重點(diǎn)研究對(duì)象，隨著互聯(lián)網(wǎng)絡(luò)以及數(shù)據(jù)挖掘技術(shù)的不斷發(fā)展，如何準(zhǔn)確快速地處理類(lèi)別數(shù)較多的多類(lèi)別分類(lèi)問(wèn)題已經(jīng)成為了研究和應(yīng)用的熱點(diǎn)。 輸出編碼是解決多類(lèi)別分類(lèi)問(wèn)題的一般性框架。大多數(shù)研究使用預(yù)先定義的輸出編碼來(lái)達(dá)到分類(lèi)的目的。One-against-all，One-against-one是最常用的多類(lèi)別處理方法，將多類(lèi)別問(wèn)題納入一個(gè)優(yōu)化問(wèn)題處理也得到了大量的研究。最近連續(xù)編碼的概念已經(jīng)被提出，

2、并以此進(jìn)行了編碼的自動(dòng)設(shè)計(jì)。這些研究將編碼設(shè)計(jì)的問(wèn)題歸結(jié)為一個(gè)有約束的優(yōu)化問(wèn)題，但是這些方法需要解大量的優(yōu)化問(wèn)題，導(dǎo)致了復(fù)雜的計(jì)算從而影響到算法的效率。本文提出了解決多類(lèi)別分類(lèi)問(wèn)題的一般性方法，它利用最小最大概率機(jī)的概率信息和間隔信息啟發(fā)式地解決了編碼設(shè)計(jì)問(wèn)題。在我們的算法中將一個(gè)減少了迭代次數(shù)的分類(lèi)器視為弱化了的分類(lèi)器，同時(shí)保留分類(lèi)器的間隔屬性和幾何特性。最后我們利用高維映射將分類(lèi)器輸出映射到特征空間，使用核技巧來(lái)提升整體性能。在弱化