多類支持向量機(jī)算法的研究和改進(jìn).pdf

1、支持向量機(jī)作為近十年來最為成功的機(jī)器學(xué)習(xí)方法，在很多應(yīng)用領(lǐng)域取得了很好的成績，包括文本分類，手寫字符的識(shí)別，人臉識(shí)別等等。它和其他機(jī)器學(xué)習(xí)方法最大的不同在于，它遵循了統(tǒng)計(jì)學(xué)習(xí)理論中的一些要求，包括結(jié)構(gòu)風(fēng)險(xiǎn)最小化。從理論上它的期望誤差有一個(gè)上界。支持向量機(jī)非常成功，但美中不足的是它本質(zhì)上是解決兩類問題的，但實(shí)際生活中更多的還是多類問題。用支持向量機(jī)解決多類問題仍然需要很多研究工作。 現(xiàn)有的用支持向量機(jī)解決多類問題的手段主要有兩種：

2、一是把多類問題轉(zhuǎn)換成為若干兩類問題；二是構(gòu)造真正意義上的多類支持向量機(jī)，即把所有數(shù)據(jù)一起考慮。本文對多類支持向量機(jī)的原理和實(shí)現(xiàn)方法進(jìn)行了研究，并在此基礎(chǔ)上對算法進(jìn)行了改進(jìn)。 在本文中我們提出了兩種改進(jìn)方案，分別針對多類支持向量機(jī)算法中不同的部分：懲罰因子C和子問題。前一種改進(jìn)方案的主要的想法是考慮類與類之間的關(guān)系，比如類與類之間的距離，并把這種關(guān)系整合到原來的多類支持向量機(jī)中。后一種方案的主要想法是平衡多類支持向量機(jī)中的各個(gè)子問