極限學習機及其在分類問題中的應用.pdf

1、極限學習機作為一種前饋神經(jīng)網(wǎng)絡的新型學習算法，它有比較簡單的結構、較少的參數(shù)調整，以及較低的計算復雜度等優(yōu)點，并且已經(jīng)取得了國內外學者的廣泛關注。本文主要針對極限學習機的算法進行研究，討論了其改進算法，以及其作為分類器的方法，并將其應用到了具體的分類問題中，本文所做的主要工作可以用以下幾點表示。
　　 （一）研究了核學習理論的原理和方法，將核函數(shù)引入了極限學習機構造了核極限學習機，分析討論了核極限學習機的優(yōu)點以及其與最小二乘支持

2、向量機的異同點。針對傳統(tǒng)的核函數(shù)逼近能力的不足，將小波核函數(shù)引入了其中，證明了小波核函數(shù)可以作為極限學習機的核函數(shù)，并分析了小波核極限學習機的優(yōu)點。通過在雙螺旋問題的分類實驗中發(fā)現(xiàn)，本文的小波核極限學習機具有良好的分類性能，效果要好于高斯核極限學習機和無核極限學習機。同時小波核極限學習機可以推廣到?jīng)]有訓練樣本分部的空間，在這些空間也具有一定的分類能力，而傳統(tǒng)的高斯核極限學習機則不具有這種能力。通過在一些基準數(shù)據(jù)集上的分類測試發(fā)現(xiàn)小波函數(shù)

3、極限學習機往往具有更好的分類性能。
　　 （二）研究了序貫極限學習機的原理，針對其容易產(chǎn)生過擬合的問題，結合正則化理論，將正則化因子引入了序貫極限學習機，構造了序貫正則極限學習機。針對隨機產(chǎn)生初始權值所造成的網(wǎng)絡性能不穩(wěn)定的問題，提出了采用粒子群算法優(yōu)化序貫極限學習機初始權值的方法，實驗結果表明該算法相對傳統(tǒng)的序貫極限學習機具有優(yōu)勢。
　　 （三）在分類的應用上，討論了極限學習機處理多分類的幾種方法，并將幾種批量學習的極