Boosting算法研究及其在光譜分析中的應(yīng)用.pdf

1、集成學(xué)習(xí)算法通過訓(xùn)練多個弱學(xué)習(xí)算法并將其結(jié)論進行合成,可以顯著地提高學(xué)習(xí)系統(tǒng)的泛化能力.Boosting算法作為集成學(xué)習(xí)算法的主要代表算法,得到了廣泛的研究和應(yīng)用,但其研究成果大部分都集中的分類問題上.該文主要研究了Boosting回歸算法.首先對以損失函數(shù)梯度下降為原理的樣本無權(quán)值算法進行了闡述,并給出了一個實際問題的仿真結(jié)果.其次對按概率取樣本的有權(quán)值算法進行了大量實驗,實驗結(jié)果顯示出按概率選擇樣本權(quán)值算法比無權(quán)值算法的總體性能更為

2、優(yōu)秀,但其個體算法的不穩(wěn)定性以及為了獲得穩(wěn)定結(jié)果所需要的巨大計算時間使其不可能成為一種能廣泛應(yīng)用的算法.針對以上兩種方法的缺陷,該文提出了一種新的按概率取樣本的改進算法.仿真結(jié)果顯示,改進算法比前兩種算法的性能都要優(yōu)秀.算法的計算時間和算法的精度相關(guān),因此在實際應(yīng)用中可以通過平衡算法性能和計算時間來獲得需要的結(jié)果.最后,對改進算法所表現(xiàn)出來的不足,該文提出了一種結(jié)合無權(quán)值算法的方法,雖然這個算法的最終計算結(jié)果相比改進算法在性能上沒有太大