三種有效的核機器.pdf

1、統(tǒng)計學習理論和核技術的結合造就了支持向量機的成功,同時也觸發(fā)了核機器的產生和其迅速的發(fā)展.核機器已經成為機器學習領域一個新的研究方向.本文在對統(tǒng)計學習理論和支持向量機進行深入分析的基礎上,進一步研究并提出了以下三類核機器:(1)隱空間核機器.首先在隱空間中采用最小二乘損失函數(shù)度量經驗風險,提出了最小二乘隱空間支持向量機(LSHSSVMs).接著為了解決LSHSSVMs沒有稀疏性的缺陷,我們在隱空間中構造出一種新的結構風險,利用這一結構風

2、險,提出了稀疏隱空間支持向量機(SHSSVMs).(2)小波核機器.基于正交小波尺度函數(shù)良好的逼近性能,直接用其來構造核函數(shù),提出了一種基于小波核的脊回歸算法(WKRR).WKRR對核函數(shù)沒有Mercer正定條件的約束,且核函數(shù)構造簡單,易于實現(xiàn).(3)貝葉斯核機器.基于秩-1更新,提出了稀疏貝葉斯學習算法(SBLA).該算法具有較低的計算復雜度和較高的稀疏性,從而適合于求解大規(guī)模問題.理論分析以及仿真實驗結果證明了所提算法的有效性和可