支持向量機(jī)多類分類方法的研究.pdf

1、支持向量機(jī)是AT&TBell實驗室的V.Vapnik等人提出的一種針對分類和回歸問題的新型機(jī)器學(xué)習(xí)方法。它基于結(jié)構(gòu)風(fēng)險最小化原理，能有效地解決過學(xué)習(xí)問題，具有良好的推廣性和較好的分類精確性。正在成為繼模式識別和神經(jīng)元網(wǎng)絡(luò)研究之后機(jī)器學(xué)習(xí)領(lǐng)域新的研究熱點，并將推動機(jī)器學(xué)習(xí)理論和技術(shù)的重大發(fā)展。 目前，支持向量機(jī)在模式識別、函數(shù)逼近、數(shù)據(jù)挖掘和文本自動分類中均有很好的應(yīng)用。傳統(tǒng)支持向量機(jī)是針對兩類分類問題，而在實際應(yīng)用中，如數(shù)據(jù)挖掘

2、、文本分類等等，需要處理的數(shù)據(jù)是海量和多類別的。如何解決大規(guī)模多類別的問題，是近幾年來研究的重點之一。 本文對統(tǒng)計學(xué)習(xí)理論進(jìn)行了介紹，深入探討了建立在該理論基礎(chǔ)上的支持向量機(jī)算法。并且就支持向量機(jī)的訓(xùn)練算法、分類算法、求解大型問題的算法、核函數(shù)及選擇等熱點問題分別加以討論。闡述了支持向量機(jī)研究和應(yīng)用現(xiàn)狀，以及所面臨的問題，指出對支持向量機(jī)進(jìn)一步研究和應(yīng)用需要解決的一些重要問題。全面總結(jié)了目前存在的基于支持向量機(jī)的多類別分類方法，

3、包括一對多方法、一對一方法、確定多類目標(biāo)函數(shù)、決策導(dǎo)向非循環(huán)圖支持向量機(jī)等方法，比較了它們的優(yōu)缺點及性能。 最后，針對現(xiàn)有的支持向量機(jī)多分類方法存在的問題以及缺點，如一對多訓(xùn)練速度慢、一對一分類速度慢，提出了基于序列最小優(yōu)化的并行支持向量機(jī)多類分類方法。并在美國加州大學(xué)所提供的實驗數(shù)據(jù)庫上進(jìn)行了驗證，與一對多和一對一的多類分類方法進(jìn)行了比較，實驗結(jié)果表明該方法大大提高了訓(xùn)練速度和分類速度，適用于需處理樣本數(shù)較多、對計算速度要求較