監(jiān)督和半監(jiān)督支持向量機研究.pdf

1、支持向量機是基于統(tǒng)計學習理論的一種機器學習算法，近年來由于其良好的分類和回歸性能、較強的泛化能力受到廣泛的關(guān)注，在理論研究、算法的實現(xiàn)和求解上都取得了重大進展，成為機器學習的前言課題。
　　支持向量機將機器學習問題轉(zhuǎn)化為最優(yōu)化規(guī)劃，并應用優(yōu)化理論構(gòu)造求解算法，從而得到最優(yōu)解。轉(zhuǎn)化后的無約束支持向量機的目標函數(shù)含有不可微項，所以不能應用快速算法求解，于是產(chǎn)生了基于光滑函數(shù)的監(jiān)督和半監(jiān)督支持向量機研究。本文主要從光滑技術(shù)的方法和角度進

2、行研究，主要內(nèi)容如下:
　　1、對光滑支持向量分類機進行研究。約束支持向量機的目標函數(shù)是非光滑不可微的，而傳統(tǒng)的優(yōu)化算法大多要用到目標函數(shù)和約束條件的一階或二階可導條件。本文提出一類基于貝塞爾曲線的光滑支持向量分類機BSSVM模型和基于旋轉(zhuǎn)雙曲線的RHSSVM模型，它們都具有二階可微性，可采用快速的Newton-Armijo算法進行求解。理論和實驗都證明了提出的BSSVM和RHSSVM兩種算法比已有模型在分類精度和訓練時間上有改進

3、和提升。同時，節(jié)省了存儲空間，有效地處理了高維、大數(shù)據(jù)的分類問題。
　　2、對光滑支持向量回歸機進行研究。建立無約束支持向量機回歸模型，應用光滑技術(shù)，給出了基于貝塞爾曲線的ε-不敏感光滑支持向量回歸機ε-BSSVR模型和基于旋轉(zhuǎn)雙曲線的ε-RHSSVR模型。對非線性樣本，本文采用了核函數(shù)技術(shù)，將輸入樣本映射到高維希爾伯特空間，在高維特征空間進行線性回歸，對于高維數(shù)據(jù)，采用簡約支持向量機技術(shù)，在不降低回歸性能的前提下，減少了運算數(shù)量

4、。提出的兩種模型，在理論和數(shù)據(jù)仿真上都給出了比較，結(jié)果說明ε-BSSVR和ε-RHSSVR模型在回歸精度和訓練時間上都優(yōu)于已有的模型。
　　3、對于光滑半監(jiān)督支持向量機進行研究。半監(jiān)督支持向量機的目標函數(shù)為非凸非光滑的，為了提高▽ TSVM的分類性能和求解速度，引進了光滑函數(shù)，給出了基于貝塞爾曲線的光滑半監(jiān)督支持向量機BSS3VM模型。該光滑函數(shù)對非凸非光滑部分進行了逼近，逼近精度高于已有的近似高斯函數(shù)，理論和數(shù)據(jù)仿真都說明了該模