基于孿生支持向量機(jī)的特征選擇與分類算法研究.pdf

1、孿生支持向量機(jī)(TWSVM)摒棄了傳統(tǒng)SVM平行約束的條件，通過(guò)求解兩個(gè)形如SVM的二次規(guī)劃問(wèn)題來(lái)獲得分類模型,可以將訓(xùn)練時(shí)間縮短到原SVM的1/4。然而，原始TWSVM并沒(méi)有考慮到數(shù)據(jù)的分布信息，對(duì)于一些分布復(fù)雜的數(shù)據(jù)，TWSVM就不能進(jìn)行有效的分類識(shí)別。針對(duì)此問(wèn)題，本文從流形學(xué)習(xí)和聚類兩方面進(jìn)行討論，對(duì)TWSVM進(jìn)行改進(jìn)。
　　首先，從流形學(xué)習(xí)進(jìn)行考慮，通過(guò)將數(shù)據(jù)的流形結(jié)構(gòu)引入至分類目標(biāo)函數(shù)中，提出基于流形結(jié)構(gòu)的TWSVM(M

2、TSVM)分類算法，其主旨是假設(shè)所處理的數(shù)據(jù)采樣于一個(gè)潛在的流形上，通過(guò)建立類內(nèi)散度矩陣，獲得數(shù)據(jù)內(nèi)部的流形結(jié)構(gòu)，并將其引入到目標(biāo)函數(shù)中，使得類內(nèi)鄰近樣本之間的距離最小化，不同類樣本之間的間隔最大化。進(jìn)一步，為了提高其計(jì)算速度，提出基于流形結(jié)構(gòu)的最小二乘TWSVM(LS-MTSVM)算法。
　　其次，我們通過(guò)采用聚類技術(shù)，提出基于聚類結(jié)構(gòu)的TWSVM(STSVM)分類算法，其通過(guò)對(duì)數(shù)據(jù)在類內(nèi)進(jìn)行聚類，將獲得的結(jié)構(gòu)信息以協(xié)方差矩陣的

3、形式引入到分類算法的目標(biāo)函數(shù)中，在保證各類數(shù)據(jù)都盡量圍繞在其分類面周圍的同時(shí)，使得同一類內(nèi)數(shù)據(jù)分布更加緊湊。進(jìn)一步，為了提高其計(jì)算速度，提出基于聚類結(jié)構(gòu)的最小二乘TWSVM算法。此外，對(duì)于STSVM在處理非均衡數(shù)據(jù)時(shí)存在的問(wèn)題對(duì)其進(jìn)行改進(jìn)，提出非對(duì)稱型STSVM(AS-STSVM)算法。
　　最后，在STSVM的基礎(chǔ)上，構(gòu)造了基于STSVM的特征選擇算法(LP-STSVM)，該分類器只需求解一個(gè)線性規(guī)劃，在保證得到與STSVM相當(dāng)