支持向量機(jī)中Sigmoid核函數(shù)的研究.pdf

1、由Vapnik等人提出的支持向量機(jī)(Support Vector Machine，SVM)技術(shù)，由于具有極強(qiáng)的模型泛化能力，不會(huì)陷入局部極小點(diǎn)，以及很強(qiáng)的非線性處理能力等特點(diǎn)，近十年來取得了全面飛速的發(fā)展，獲得了大量成功的應(yīng)用。
　　 當(dāng)前，選擇合適的核函數(shù)及其參數(shù)已成為SVM進(jìn)一步發(fā)展的關(guān)鍵點(diǎn)和難點(diǎn)。不同的核函數(shù)確定了不同的非線性變換和特征空間，因此選取不同的核函數(shù)訓(xùn)練SVM就會(huì)得到不同的分類效果。在支持向量機(jī)中，通常所選的核

2、函數(shù)必須滿足Mercer條件。最常用的核函數(shù)有：多項(xiàng)式核、高斯核、Sigmoid核，前兩種核函數(shù)由于其自身的優(yōu)越性質(zhì)，已經(jīng)被廣泛應(yīng)用。而來自于神經(jīng)網(wǎng)絡(luò)的Sigmoid核函數(shù)在實(shí)際應(yīng)用中卻受到了限制，主要是因?yàn)橹挥袇?shù)滿足特定條件時(shí)，Sigmoid核才是半正定的(positive semi-definite，PSD)。但令人驚訝的是，在一些實(shí)際應(yīng)用中它也有不俗的表現(xiàn)。基于此，本文對(duì)Sigmoid核函數(shù)進(jìn)行了深入研究，主要工作如下：

3、　　 首先詳細(xì)分析了Sigmoid核函數(shù)的性質(zhì)。先解釋了非半正定核也具有分類能力的原因，并分四種情形討論了Sigmoid核函數(shù)的性質(zhì)；然后分析了Sigmoid核與高斯核的關(guān)系：當(dāng)參數(shù)r很小且參數(shù)a→0時(shí)，二者不僅具有相似的表達(dá)式，而且具有相似的決策函數(shù)，從而說明二者具有相似的分類能力；最后給出了Sigmoid核SVM的算法——序列最小最優(yōu)化算法(SMO)，并通過實(shí)驗(yàn)驗(yàn)證了上面的結(jié)論。
　　 其次根據(jù)Smits等人提出的混合核函