基于CPA改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)及其在氣象數(shù)據(jù)中的應(yīng)用研究.pdf

1、BP(Back Propagation)神經(jīng)網(wǎng)絡(luò)是目前應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一。經(jīng)驗(yàn)表明，BP神經(jīng)網(wǎng)絡(luò)的性能主要取決于網(wǎng)絡(luò)結(jié)構(gòu)的設(shè)計(jì)。BP神經(jīng)網(wǎng)絡(luò)在迭代的過程中，可能出現(xiàn)隱含層節(jié)點(diǎn)冗余，從而影響神經(jīng)網(wǎng)絡(luò)的訓(xùn)練效果。此外，傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)采用梯度下降法求解，使得在神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程中，容易出現(xiàn)陷入局部最優(yōu)、訓(xùn)練過程震蕩、收斂速度慢等問題。
　　針對(duì)BP網(wǎng)絡(luò)目前存在的問題，本文將相關(guān)性剪枝算法(Correlation Pruni

2、ngAlgorithm，CPA)和變學(xué)習(xí)率、附加動(dòng)量方法結(jié)合提出了一種基于CPA改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)剪枝算法，該算法進(jìn)一步提高了神經(jīng)網(wǎng)絡(luò)的收斂速度和準(zhǔn)確度。此外，本文將提出的算法和粗糙集理論結(jié)合，并運(yùn)用到氣象數(shù)據(jù)修復(fù)中。論文主要工作包含如下兩個(gè)方面:
　　(1)提出了一種基于CPA改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)剪枝算法——LMCPA神經(jīng)網(wǎng)絡(luò)。在張等人提出的復(fù)合BP神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)之上，引入CPA相關(guān)性剪枝算法，在神經(jīng)網(wǎng)絡(luò)迭代的過程中，對(duì)冗余節(jié)點(diǎn)進(jìn)

3、行刪減，當(dāng)隱含層兩個(gè)隱含層節(jié)點(diǎn)的輸出對(duì)所有樣本具有較大的相關(guān)性時(shí)，將它們合并成一個(gè)節(jié)點(diǎn)，并對(duì)權(quán)值和閾值進(jìn)行調(diào)整。為了驗(yàn)證本文算法的性能，我們將LMCPA算法分別和原始的BP神經(jīng)網(wǎng)絡(luò)、張自敏等人提出的復(fù)合BP神經(jīng)網(wǎng)絡(luò)、基于相關(guān)性分析的BP神經(jīng)網(wǎng)絡(luò)剪枝算法進(jìn)行對(duì)比。實(shí)驗(yàn)結(jié)果表明，本文提出的算法能夠進(jìn)一步的提高神經(jīng)網(wǎng)絡(luò)的性能。一方面，該算法可以降低了訓(xùn)練步數(shù)，加快神經(jīng)網(wǎng)絡(luò)的收斂速度;另一方面，其在測(cè)試數(shù)據(jù)集上的均方誤差也得到了進(jìn)一步的優(yōu)化。<

4、br>　　(2)提出了一種氣象數(shù)據(jù)修復(fù)算法。在本文提出的LMCPA神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)之上，針對(duì)氣象數(shù)據(jù)維數(shù)較高的特點(diǎn)，引入粗糙集作為氣象數(shù)據(jù)約簡(jiǎn)工具。首先，使用粗糙集對(duì)氣象屬性的重要性進(jìn)行計(jì)算，基于屬性的重要性，約簡(jiǎn)重要性較小的屬性，并去掉對(duì)應(yīng)的氣象數(shù)據(jù)?；诩s簡(jiǎn)后的數(shù)據(jù)，采用LMCPA神經(jīng)網(wǎng)絡(luò)對(duì)氣象數(shù)據(jù)進(jìn)行修復(fù)。實(shí)驗(yàn)表明，結(jié)合粗糙集算法，能夠使得LMCPA算法的數(shù)據(jù)修復(fù)能力更強(qiáng)，收斂速度更快，且修復(fù)后得到的數(shù)據(jù)和專家修復(fù)后的數(shù)據(jù)之間的誤差