改進的Elman神經網絡和網絡參數(shù)優(yōu)化算法研究.pdf

1、Elman神經網絡（Elman Neural Network，ENN）是一種被廣泛使用的反饋型神經網絡。因其具有較強的適應時變特性的能力，非常適合用于時間序列數(shù)據(jù)的預測研究。根據(jù)前人經驗得出，網絡結構設計的好壞對網絡的性能起著重要的影響。網絡結構設計包括網絡拓撲結構設計和隱含層節(jié)點數(shù)設計等。針對不同的問題需要設計不同的網絡結構，尤其是隱含層節(jié)點數(shù)的確定，尚缺乏嚴格統(tǒng)一的理論指導。傳統(tǒng)的Elman神經網絡通常采用梯度下降法作為它的學習規(guī)則

2、，造成學習過程收斂速度慢，收斂過程不穩(wěn)定，且容易陷入局部最優(yōu)解。
　　鑒于傳統(tǒng)Elman神經網絡存在的上述問題，本文首先對Elman神經網絡的拓撲結構進行了改進，提出了一種新型的帶有輸出-隱含反饋機制的雙隱含層Elman神經網絡（Elman neural network with Double Hidden layers and Output-Hidden Feedback，DHOHF-Elman）結構。然后，本文對自適應遺傳算法

3、（Adaptive Genetic Algorithm，AGA）進行了適當改進，并基于改進的AGA提出了一種網絡參數(shù)優(yōu)化算法，分別優(yōu)化神經網絡的隱含層節(jié)點數(shù)目和初始權值、閾值。最后，使用提出的這個網絡參數(shù)優(yōu)化算法優(yōu)化DHOHF-Elman神經網絡參數(shù)，并將優(yōu)化后的DHOHF-Elman神經網絡應用于空氣質量時間序列預測。本文的主要工作和創(chuàng)新點可以概括為以下三個方面：
　?。?）改進了Elman神經網絡拓撲結構?；趥鹘y(tǒng)Elman神

4、經網絡，總結時小虎等人提出的OIF-Elman和OHF-Elman的優(yōu)缺點，本文設計了一種特殊的輸出層反饋，提出了一種同時包含內部反饋和外部反饋的雙隱含層Elman神經網絡——DHOHF-Elman神經網絡。為了驗證提出的DHOHF-Elman網絡結構的有效性，本文將DHOHF-Elman神經網絡同傳統(tǒng)的Elman神經網絡和時小虎等人提出的OIF-Elman神經網絡進行對比實驗。實驗結果表明：本文提出的DHOHF-Elman神經網絡相比

5、其他兩種Elman神經網絡具有更高的預測精度和更快的收斂速度。
　　（2）提出了一種基于遺傳算法的網絡參數(shù)優(yōu)化算法。該網絡參數(shù)優(yōu)化算法的中心思想是使用改進的自適應遺傳算法AGA確定DHOHF-Elman網絡隱含層節(jié)點數(shù)和初始權值、閾值。將隱含層節(jié)點數(shù)和初始權值、閾值采用不同的編碼方式進行編碼，并采用對應的選擇、交叉、變異操作進行遺傳進化，解碼最優(yōu)適應度值對應的染色體個體即可得到相應的隱含層節(jié)點數(shù)和初始權值、閾值。為了驗證本文提出的

6、網絡參數(shù)優(yōu)化算法的有效性，本文分別對網絡隱含層節(jié)點數(shù)優(yōu)化算法和網絡初始權值、閾值優(yōu)化算法設計了兩組對比實驗進行驗證。實驗結果表明：○1使用本文提出的網絡隱含層節(jié)點數(shù)優(yōu)化算法比使用枚舉法找到最優(yōu)或次優(yōu)隱含層節(jié)點數(shù)耗時更少；○2在訓練網絡之前使用本文提出的網絡初始權值、閾值優(yōu)化算法，這個過程雖然會耗費大量時間，但是使用優(yōu)化后的初始權值、閾值比隨機獲得的初始權值、閾值具有更好的效果，能夠使網絡訓練過程更加平穩(wěn)，避免了陷入局部最優(yōu)解，具有更快的

7、收斂速度和更高的預測準確性。
　?。?）空氣質量時間序列預測?；诒疚奶岢龅腄HOHF-Elman網絡結構和網絡參數(shù)優(yōu)化算法，使用空氣質量時間序列數(shù)據(jù)進行實驗，預測下一時段臭氧濃度。為了驗證方法的有效性，在縱向上，將DHOHF-Elman神經網絡同其他Elman神經網絡（如：傳統(tǒng)的Elman神經網絡和OIF-Elman神經網絡）進行對比實驗。在橫向上，同其他時間序列預測方法（如：灰色預測法和NARX神經網絡預測法）進行對比實驗。實