徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法研究.pdf

1、山東大學(xué)碩士學(xué)位論文徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法研究姓名：李彬申請(qǐng)學(xué)位級(jí)別：碩士專業(yè)：運(yùn)籌學(xué)與控制論指導(dǎo)教師：賴曉平20050401山東大學(xué)碩士學(xué)位論文徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法研究摘要徑向基函數(shù)(RadialBasisFunction，RBF)神經(jīng)網(wǎng)絡(luò)以其簡(jiǎn)單的結(jié)構(gòu)，優(yōu)良的全局逼近性能而引起了學(xué)者們的廣泛關(guān)注由于RBF神經(jīng)網(wǎng)絡(luò)的種種優(yōu)越性，使得它在函數(shù)逼近和非線性時(shí)間序列預(yù)測(cè)等方面得到廣泛應(yīng)用本文研究了RBF神經(jīng)網(wǎng)絡(luò)的各種學(xué)習(xí)算法在

2、總結(jié)概述前人工作優(yōu)缺點(diǎn)的基礎(chǔ)上，本文提出一了兩種優(yōu)良的改進(jìn)學(xué)習(xí)算法與現(xiàn)存的學(xué)習(xí)算法相比，在具有良好性能的前提下，本文的算法可以產(chǎn)生更緊湊的網(wǎng)絡(luò)結(jié)構(gòu)RBF神經(jīng)網(wǎng)絡(luò)現(xiàn)有的各種學(xué)習(xí)算法可以分為兩類：離線學(xué)習(xí)算法和在線學(xué)習(xí)算法在線學(xué)習(xí)算法可以有效處理反映對(duì)象特性改變的樣本數(shù)據(jù)，比較適用于實(shí)時(shí)的應(yīng)用環(huán)境對(duì)于在線學(xué)習(xí)(訓(xùn)練)算法來(lái)說(shuō)，后一個(gè)訓(xùn)練數(shù)據(jù)進(jìn)入網(wǎng)絡(luò)之前，前一個(gè)訓(xùn)練數(shù)據(jù)訓(xùn)練網(wǎng)絡(luò)的過(guò)程必須結(jié)束，也就是在線訓(xùn)練算法的每次迭代時(shí)間必須小于樣本的采樣

3、周期為了提高在線訓(xùn)練算法的實(shí)時(shí)應(yīng)用范圍，我們必須降低算法的復(fù)雜性，加快算法的訓(xùn)練時(shí)間另外，我們需要關(guān)注算法的泛化能力一般的情況下，對(duì)于RBF神經(jīng)網(wǎng)絡(luò)來(lái)說(shuō)，在達(dá)到相同的訓(xùn)練精度的前提下，網(wǎng)絡(luò)中的隱層神經(jīng)元個(gè)數(shù)越少，則網(wǎng)絡(luò)的泛化能力就越好本文首先回顧RBF神經(jīng)網(wǎng)絡(luò)的發(fā)展簡(jiǎn)史、網(wǎng)絡(luò)結(jié)構(gòu)及其基本的學(xué)習(xí)過(guò)程第三章，在介紹批處理學(xué)習(xí)算法特點(diǎn)的基礎(chǔ)上，詳細(xì)介紹了其中的典型代表——正交最d乘算法第四章詳細(xì)說(shuō)明了現(xiàn)階段流行的各種RBF神經(jīng)網(wǎng)絡(luò)在線學(xué)習(xí)算法

4、(RAN[1]，RANEKF[5]，MRAN[22]，GGAPRBF(GAPRBF)[2324])，并分析了各種在線學(xué)習(xí)算法的優(yōu)缺點(diǎn)以在線學(xué)習(xí)算法MRAN為基礎(chǔ)，本文在第五章提出了一種改進(jìn)的RBF神經(jīng)網(wǎng)絡(luò)在線學(xué)習(xí)算法，稱為IRAN學(xué)習(xí)算法針對(duì)MRAN算法的計(jì)算復(fù)雜性較高，對(duì)內(nèi)存要求較大的缺點(diǎn)，IRAN算法采用一種新的基于吉文斯QR分解的遞歸最小二乘算法，代替EKF算法來(lái)進(jìn)行權(quán)值的更新它既可以加快網(wǎng)絡(luò)的收斂速度，又降低了其復(fù)雜性IRAN算