路徑跟蹤法線性規(guī)劃支持向量機(jī)的研究.pdf

1、支持向量機(jī)(Support Vector Machine，SVM)是基于結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則和統(tǒng)計(jì)學(xué)習(xí)理論(Statistical Learning Theory，SLT)上的一種新型機(jī)器學(xué)習(xí)方法，具有出色的學(xué)習(xí)性能、泛化性能。傳統(tǒng)標(biāo)準(zhǔn)支持向量機(jī)是一個(gè)求解二次型規(guī)劃(Quadratic Programming，QP)問題。當(dāng)訓(xùn)練集規(guī)模很大時(shí)，就會(huì)出現(xiàn)訓(xùn)練算法復(fù)雜、訓(xùn)練速度明顯變慢、訓(xùn)練效率驟然下降等問題。目前支持向量機(jī)參數(shù)的選取一直沒有一

2、套成熟的理論作為支撐，這給支持向量機(jī)的應(yīng)用帶來很大的不便。針對以上問題本文做了如下兩方面的研究:
　　(1)提出了一種路徑跟蹤線性規(guī)劃支持向量機(jī)(Path Follow Linear Programming support vector machine，PF-LPSVM)。首先構(gòu)造出線性規(guī)劃支持向量機(jī)模型，并用路徑跟蹤內(nèi)點(diǎn)法對該模型進(jìn)行訓(xùn)練，提高訓(xùn)練效率。在隨機(jī)數(shù)據(jù)集及UCI數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn)，將實(shí)驗(yàn)結(jié)果進(jìn)行對比分析，可以得出改進(jìn)后

3、的支持向量機(jī)模型無論是在分類效率還是分類精度上都有所提升。
　　(2)針對支持向量機(jī)最佳組合參數(shù)選取問題，本文應(yīng)用一種低偏差蒙特卡羅序列的量子遺傳算法(Low-Discrepancy Quantum Genetic Algorithm，LDQGA)優(yōu)化支持向量機(jī)模型的參數(shù)，尋找最合適的組合參數(shù)，最后將所得到的最佳組合參數(shù)應(yīng)用到已優(yōu)化的PF-LPSVM模型上，并與量子遺傳算法和3-fold交叉驗(yàn)證方進(jìn)行實(shí)驗(yàn)對比，從實(shí)驗(yàn)結(jié)果可看出無論