一種雙支持向量機(jī)決策樹的多分類算法.pdf

1、支持向量機(jī)(SVM)是一種基于統(tǒng)計學(xué)習(xí)理論的V-C維理論和結(jié)構(gòu)風(fēng)險最小化的新型機(jī)器學(xué)習(xí)方法，常被應(yīng)用于分類或回歸問題中，由于其良好的學(xué)習(xí)能力，現(xiàn)已成為業(yè)內(nèi)研究的熱點。Jayadeva等人在此基礎(chǔ)上提出了雙支持向量機(jī)(TSVM)方法，對于二分類問題，TSVM的思想是構(gòu)造兩個非平行的超平面，使之分別擬合一類樣本而同時遠(yuǎn)離另一類樣本，而對于待測樣本分類時，根據(jù)其距哪個超平面近就將其歸于該類。TSVM對于樣本訓(xùn)練速度有了很好的提升，對同等樣本訓(xùn)

2、練速度約為傳統(tǒng)SVM的四倍，比起傳統(tǒng)SVM它具有更好的泛化能力。SVM決策樹作為解決多分類問題常用的方法，具有運算速度快，無拒分現(xiàn)象等優(yōu)點。
　　本文結(jié)合TSVM和決策樹的優(yōu)點，提出了一種基于雙支持向量機(jī)決策樹(DT-TSVM)的多分類算法。首先定義了表示類與類可分性的類間區(qū)分度，其次對所有樣本根據(jù)區(qū)分度度量類間可分性的大小，將可分性最大的樣本分成兩類，在這兩個子類中再分別尋找可分性最高的樣本并將其分成兩類，如此下去直至不能再分，