基于進(jìn)化計(jì)算的隨機(jī)神經(jīng)網(wǎng)絡(luò)優(yōu)化及其應(yīng)用研究.pdf

1、進(jìn)化計(jì)算是一類(lèi)基于生物自然選擇和自然遺傳機(jī)制的搜索方法，包括遺傳算法、進(jìn)化策略和進(jìn)化規(guī)劃等算法。進(jìn)化計(jì)算是一種有效的優(yōu)化技術(shù)，可以?xún)?yōu)化權(quán)值和選擇合適的拓?fù)浣Y(jié)構(gòu)，而且不要求目標(biāo)函數(shù)連續(xù)，具有很好的全局搜索性質(zhì)。
　　隨機(jī)神經(jīng)網(wǎng)絡(luò)是一類(lèi)功能強(qiáng)大的人工神經(jīng)網(wǎng)絡(luò)，在優(yōu)化計(jì)算和模擬學(xué)習(xí)領(lǐng)域中發(fā)揮著重要的作用。人們通常所說(shuō)的人工神經(jīng)網(wǎng)絡(luò)一般有兩種:一種是采用隨機(jī)性神經(jīng)元激活函數(shù)的隨機(jī)神經(jīng)網(wǎng)絡(luò)，另一種是采用隨機(jī)型加權(quán)連接，即在普通人工神經(jīng)網(wǎng)絡(luò)中

2、加入適當(dāng)隨機(jī)噪聲的波耳茲曼機(jī)。
　　雖然隨機(jī)神經(jīng)網(wǎng)絡(luò)功能強(qiáng)大且應(yīng)用廣泛，但復(fù)雜的學(xué)習(xí)過(guò)程和較慢的收斂速度限制了隨機(jī)神經(jīng)網(wǎng)絡(luò)的進(jìn)一步推廣和應(yīng)用。如何優(yōu)化隨機(jī)神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過(guò)程并提高其收斂速度成為研究的一個(gè)難點(diǎn)。因此，將進(jìn)化計(jì)算和隨機(jī)神經(jīng)網(wǎng)絡(luò)相結(jié)合，以進(jìn)化計(jì)算的隨機(jī)性、全局性、隱并行性和魯棒性等優(yōu)點(diǎn)，彌補(bǔ)了神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)過(guò)程的復(fù)雜、訓(xùn)練速度慢、易陷入局部極小點(diǎn)和全局搜索能力差等缺陷，優(yōu)化了隨機(jī)神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過(guò)程，逐漸成為一個(gè)有效的解決辦

3、法。進(jìn)化計(jì)算與神經(jīng)網(wǎng)絡(luò)的結(jié)合促使“進(jìn)化人工神經(jīng)網(wǎng)絡(luò)”的發(fā)展。
　　本文對(duì)進(jìn)化算法和隨機(jī)神經(jīng)網(wǎng)絡(luò)相結(jié)合的情況進(jìn)行了研究，嘗試將進(jìn)化算法強(qiáng)大的優(yōu)化計(jì)算能力應(yīng)用到隨機(jī)神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過(guò)程中，通過(guò)進(jìn)化算法的競(jìng)爭(zhēng)尋優(yōu)和隱并行計(jì)算能力來(lái)簡(jiǎn)化隨機(jī)神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過(guò)程。并且通過(guò)實(shí)驗(yàn)證實(shí)了用優(yōu)化后的隨機(jī)神經(jīng)網(wǎng)絡(luò)解決問(wèn)題能取得較優(yōu)的效果。本文主要進(jìn)行了以下的研究工作:
　　(一)介紹了本文的研究背景和寫(xiě)作的意義、本課題目前的研究成果和本文的主要研究

4、內(nèi)容。
　　(二)介紹了遺傳算法的原理、數(shù)學(xué)機(jī)理以及遺傳算法的求解過(guò)程；對(duì)隨機(jī)神經(jīng)網(wǎng)絡(luò)的模型、主要特征和學(xué)習(xí)過(guò)程進(jìn)行了系統(tǒng)的闡述。并且對(duì)目前進(jìn)化算法和隨機(jī)神經(jīng)網(wǎng)絡(luò)結(jié)合研究的現(xiàn)狀進(jìn)行了綜述。
　　(三)針對(duì)波耳茲曼機(jī)學(xué)習(xí)過(guò)程的特點(diǎn)，將遺傳算法用于波耳茲曼機(jī)的學(xué)習(xí)過(guò)程中，用遺傳算法來(lái)優(yōu)化波耳茲曼機(jī)的學(xué)習(xí)過(guò)程，期望能不通過(guò)概率統(tǒng)計(jì)來(lái)完成波耳茲曼機(jī)的學(xué)習(xí)過(guò)程，針對(duì)波耳茲曼機(jī)的特點(diǎn)設(shè)計(jì)了優(yōu)化其學(xué)習(xí)過(guò)程的遺傳算法。并且將此方法應(yīng)用于天氣

5、的預(yù)報(bào)實(shí)例上，取得了不錯(cuò)的效果。
　　(四)對(duì)隨機(jī)神經(jīng)網(wǎng)絡(luò)的強(qiáng)化學(xué)習(xí)模型和權(quán)值更新策略進(jìn)行了研究，針對(duì)隨機(jī)神經(jīng)網(wǎng)絡(luò)強(qiáng)化學(xué)習(xí)模型學(xué)習(xí)算法中權(quán)值更新的復(fù)雜性和算法對(duì)環(huán)境變化反應(yīng)遲鈍的局限性，將遺傳算法應(yīng)用于隨機(jī)神經(jīng)網(wǎng)絡(luò)強(qiáng)化學(xué)習(xí)過(guò)程中，提出了優(yōu)化隨機(jī)神經(jīng)網(wǎng)絡(luò)權(quán)值更新策略的方法。并且根據(jù)隨機(jī)神經(jīng)網(wǎng)絡(luò)的特點(diǎn)設(shè)計(jì)了應(yīng)用于該網(wǎng)絡(luò)計(jì)算的遺傳算法。
　　雖然本文中對(duì)進(jìn)化算法優(yōu)化隨機(jī)神經(jīng)網(wǎng)絡(luò)做了大量的研究并且提出了一些算法，但還要針對(duì)算法的理論