改進(jìn)網(wǎng)格搜索的支持向量機參數(shù)優(yōu)化研究及應(yīng)用.pdf

1、支持向量機(Support Vector Machine。SVM)作為數(shù)據(jù)挖掘中具有代表性的分類算法，是在統(tǒng)計學(xué)習(xí)理論的基礎(chǔ)上發(fā)展起來的。SVM通過對已知樣本信息的分析，尋找最優(yōu)分類超平面，對未知數(shù)據(jù)進(jìn)行分類，能較好地解決非線性、高維數(shù)、小樣本學(xué)習(xí)問題。SVM的分類性能與其參數(shù)的選取密切相關(guān)，因此SVM的參數(shù)優(yōu)化已經(jīng)成為一個備受關(guān)注的研究課題。
　　近年來，許多學(xué)者已提出或引入了諸如網(wǎng)格搜索算法、粒子群算法、遺傳算法等SVM參數(shù)優(yōu)

2、化算法。然而，本文在對現(xiàn)有的SVM參數(shù)優(yōu)化算法性能分析后發(fā)現(xiàn)，現(xiàn)有的SVM參數(shù)優(yōu)化算法計算量大，尤其在面對數(shù)據(jù)規(guī)模較大的機器學(xué)習(xí)任務(wù)時，使得SVM建模過程較慢，從而導(dǎo)致SVM整體運行效率不高。
　　針對以上問題，本文提出了一種改進(jìn)的SVM參數(shù)優(yōu)化算法——空間折半-變步長網(wǎng)格搜索算法(Half space&Variable step Grid Search。HVGS)。該算法首先將預(yù)設(shè)搜索步長擴大L倍并在初始空間內(nèi)進(jìn)行第一次參數(shù)搜索

3、，然后根據(jù)參數(shù)搜索結(jié)果，對初始空間進(jìn)行折半并將步長縮小 M倍，在折半的搜索空間內(nèi)用較小的步長進(jìn)行第二次參數(shù)搜索，重復(fù)這一過程并進(jìn)行第三次參數(shù)搜索，并且使第三次參數(shù)搜索時搜索步長縮小N倍至預(yù)設(shè)步長。通過兩次參數(shù)搜索空間的折半操作及三次步長的放縮操作，可以大幅提升參數(shù)的搜索效率從而減少 SVM的整體運行時間。本文在利用屬性標(biāo)準(zhǔn)化及主成分分析進(jìn)行數(shù)據(jù)預(yù)處理的基礎(chǔ)上，融合了所提出的HVGS，在MATLAB下構(gòu)建了名為PHVSVM的支持向量機算法