基于MAs算法的支持向量機(jī)參數(shù)優(yōu)化研究.pdf

1、支持向量機(jī)作為一個(gè)非常有效的機(jī)器學(xué)習(xí)方法,已經(jīng)廣泛應(yīng)用于小樣本、高維的分類和回歸問題中。然而,在構(gòu)建支持向量機(jī)模型時(shí),一個(gè)非常重要的問題是如何優(yōu)化模型參數(shù)與核參數(shù)。
　　針對(duì)支持向量機(jī)參數(shù)優(yōu)化的問題,本文首先對(duì)相關(guān)文獻(xiàn)做了較詳細(xì)的綜述研究。在已有文獻(xiàn)中,最簡(jiǎn)單直接的參數(shù)優(yōu)化方法是網(wǎng)格搜索,但是該方法非常耗時(shí),尤其是優(yōu)化多于兩個(gè)參數(shù)時(shí);使用經(jīng)典的數(shù)值優(yōu)化算法最小化泛化誤差邊界有非常快的收斂速度,但是該類方法對(duì)初始點(diǎn)非常敏感,因此極易

2、陷入局部極值點(diǎn);進(jìn)化算法由于具有較好的全局搜索能力,近來(lái)被許多學(xué)者用來(lái)優(yōu)化支持向量機(jī)的有關(guān)參數(shù),但是其缺乏在潛在鄰域進(jìn)行局部精細(xì)搜索的能力。
　　針對(duì)已有文獻(xiàn)中各方法的不足,本文提出了基于粒子群優(yōu)化算法和模式搜索的文化基因算法,并將該算法應(yīng)用到支持向量機(jī)參數(shù)優(yōu)化中。在該算法中,粒子群優(yōu)化算法主要負(fù)責(zé)參數(shù)空間的全局搜索和對(duì)存在最優(yōu)解的潛在區(qū)域的探測(cè),而模式搜索則在部分潛在區(qū)域中進(jìn)行局部開采,以提高個(gè)體的質(zhì)量。
　　為了驗(yàn)證本文