基于類電磁機制算法的SVM決策樹多分類策略研究.pdf

1、近年來,多類別的分類問題是支持向量機研究的熱點之一。目前已提出的算法中1-a-r算法和1-a-1算法在類別數(shù)目較多時,其訓(xùn)練和分類效率都比較差,且存在“無法辨識區(qū)”。DAG-SVM算法在類別數(shù)較多時,訓(xùn)練速度較慢,且根節(jié)點的選擇會直接影響分類的最終結(jié)果。DT-SVM算法具有較高的訓(xùn)練速度和分類速度,也不存在“無法辨識區(qū)”,但是由于其采用的樹結(jié)構(gòu)固定,而且各個決策節(jié)點的選擇具有隨機性,因而很容易產(chǎn)生“誤差積累”問題,因此,分類性能常常不夠

2、穩(wěn)定,往往達不到最優(yōu)。GADT-SVM算法利用遺傳算法對樹結(jié)構(gòu)進行優(yōu)化,使得決策樹的結(jié)構(gòu)具有了自適應(yīng)性,但是分類精度還不夠高。
　　為了進一步提高SVM多分類策略的總體性能,本文提出了一種基于類電磁機制算法的SVM決策樹多分類算法,即在樹的各個決策節(jié)點運用類電磁機制算法優(yōu)化兩分類決策,從而自動生成最優(yōu)或近優(yōu)的決策樹。首先,基于分類問題的特點,對類電磁機制算法進行了改進:通過對多分類問題以及各種編碼方案進行分析,采用實值編碼策略對粒

3、子進行編碼;根據(jù)粒子的受力情況以及多分類問題的特點,提出了一種新的適合多分類問題的粒子移動方法;并設(shè)計了基于最大分類間隔的目標(biāo)函數(shù)。然后,利用改進后的類電磁機制算法,設(shè)計了最優(yōu)決策樹生成算法,用以解決SVM多分類問題。最后,對本文提出的EMDT-SVM算法進行了理論分析和仿真。
　　實驗結(jié)果表明,改進后的算法能夠構(gòu)造出最優(yōu)或近優(yōu)的決策樹,成功地應(yīng)用于多分類問題,并且比傳統(tǒng)的1-a-r、1-a-1、DAG-SVM、DT-SVM和GA