支持向量機(jī)若干問(wèn)題及應(yīng)用研究.pdf

1、支持向量機(jī)(SVM)作為結(jié)構(gòu)風(fēng)險(xiǎn)最小化準(zhǔn)則的具體實(shí)現(xiàn)工具，具有全局最優(yōu)、結(jié)構(gòu)簡(jiǎn)單、泛化性能強(qiáng)等優(yōu)點(diǎn).該技術(shù)己成為機(jī)器學(xué)習(xí)界的研究熱點(diǎn)，并在很多領(lǐng)域得到了成功的應(yīng)用. 本文針對(duì)支持向量機(jī)，作了如下幾個(gè)方面的研究： (1)指出基于貪婪思想的LS-SVM稀疏化算法得到的解容易落入局部極小點(diǎn)，即超平面并不稀疏.提出Invfitting法則分析迭代過(guò)程中所有支持向量，刪除掉對(duì)決策函數(shù)影響最小的支持向量.并將Invfitting法則

2、與逐次增加的支持向量的Backfitting法則有機(jī)結(jié)合，發(fā)展了更具有全局最優(yōu)性的HBILS-SVM算法，從而減少支持向量的數(shù)目，使得超甲面更加稀疏. (2)分析了現(xiàn)有SVM幾何算法中RCH的不足：RCH改變訓(xùn)練樣本的凸包的幾何形狀，并且僅有極點(diǎn)表出的必要而非充分條件.引入了具有不改變幾何體的形狀、容易確定極點(diǎn)等優(yōu)良特性的CCH的概念.據(jù)此討論了基于CCH的SVM幾何算法.同時(shí)，根據(jù)CCH極點(diǎn)的特性，提出了概率加速幾何算法減少迭

3、代中的計(jì)算量. (3)提出TM-v-SVM解決了TM-SVM無(wú)法確定正則化參數(shù)的不足，確定了TM-v-SVM的間隔誤差和子支持向量的上下界，分析表明TM-v-SVM算法可取得比v-SVM算法更好的結(jié)果.同時(shí)具體分析了TM-v-SVM的幾何意義，即優(yōu)化過(guò)程等價(jià)于求特征空間中兩個(gè)SCCH問(wèn)的最近點(diǎn)對(duì).進(jìn)一步，討論了SCCH的幾何性質(zhì)，據(jù)此給出了對(duì)應(yīng)的幾何算法. (4)討論了將SVR轉(zhuǎn)化為SVC的樣本平移(SS)算法，并給出了

4、基于經(jīng)驗(yàn)法向量的樣本乎移(GSS)算法.進(jìn)一步地，為減少噪聲對(duì)經(jīng)驗(yàn)法向量的影響，結(jié)合支持向量的幾何算法，提出了基于特征空間中法向量的在線樣本平移(OFGSS)算法.該方法可減少平移大小對(duì)回歸函數(shù)的影響，降低噪聲影響，具有較強(qiáng)的泛化性能. (5)分析對(duì)比了增量支持向量機(jī)和支持向量機(jī)的幾何算法的優(yōu)缺點(diǎn).探討了基于幾何算法的支持向量機(jī)核參數(shù)確定方法.該方法結(jié)合了幾何算法的優(yōu)點(diǎn)，并利用對(duì)參數(shù)的近似梯度計(jì)算，從而以更快的速度得到最優(yōu)核參數(shù)

5、.為支持向量機(jī)的模型選擇提供了一條有效的途徑. (6)在回顧TSVM的各種學(xué)習(xí)算法之后提出了TSVM的一個(gè)改進(jìn)算法--SMTSVM算法.SMTSVM算法通過(guò)引入序列最小化思想估計(jì)調(diào)整測(cè)試樣本的臨時(shí)標(biāo)簽后的Largrange系數(shù)，從而得到新的決策分類(lèi)函數(shù)以及調(diào)整后的經(jīng)驗(yàn)誤差估計(jì).該方法可解決過(guò)于簡(jiǎn)單地估計(jì)經(jīng)驗(yàn)誤差帶來(lái)的分類(lèi)精度上的不足. (7)討論了將SVM應(yīng)用到蛋白質(zhì)相互作用預(yù)測(cè)工作中.通過(guò)利用蛋白質(zhì)的結(jié)構(gòu)域信息以及殘基