二階對角遞歸神經(jīng)網(wǎng)絡(luò)的算法研究及應(yīng)用.pdf

1、遞歸神經(jīng)網(wǎng)絡(luò)學習算法一直是神經(jīng)網(wǎng)絡(luò)方向研究的熱點,并且其應(yīng)用也引起了科研愛好者的廣泛關(guān)注。動態(tài)遞歸神經(jīng)網(wǎng)絡(luò)由于內(nèi)部有自反饋,表現(xiàn)出很強的動態(tài)映射能力。目前訓(xùn)練二階對角遞歸神經(jīng)網(wǎng)絡(luò)多采用DBP算法,本文針對該算法中的辨識精度和收斂速度等問題做進一步的深入研究和探討。
　　 首先,詳細地介紹了遞歸神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),并且給出神經(jīng)網(wǎng)絡(luò)系統(tǒng)辨識的基本原理和網(wǎng)絡(luò)辨識模型。
　　 其次,針對訓(xùn)練二階對角遞歸神經(jīng)網(wǎng)絡(luò)采用的梯度搜索算法中存在

2、的問題,提出改進的梯度下降學習算法,并且給出了這種改進算法的收斂性證明。
　　 然后,給出訓(xùn)練二階對角遞歸神經(jīng)網(wǎng)絡(luò)的三種算法:DBP算法、改進DBP算法和RPROP算法和實現(xiàn)步驟,并將三種算法訓(xùn)練后的二階對角遞歸神經(jīng)網(wǎng)絡(luò)用于非線性系統(tǒng)辨識,仿真結(jié)果表明:基于DBP算法的辨識精度不夠理想且收斂速度慢,針對該算法存在的問題,采用了改進的DBP算法,辨識效果好于DBP算法;但是DBP算法和改進的DBP算法受梯度大小的影響較大。