幾類神經(jīng)網(wǎng)絡(luò)的分析與優(yōu)化及其應(yīng)用研究.pdf

1、人工神經(jīng)網(wǎng)絡(luò)是人工智能研究領(lǐng)域的重要分支之一，在控制、預(yù)測(cè)、優(yōu)化、系統(tǒng)辨識(shí)、信號(hào)處理和模式識(shí)別等方面有廣泛的應(yīng)用。本文分析和研究了幾類主要的神經(jīng)網(wǎng)絡(luò)模型：進(jìn)化神經(jīng)網(wǎng)絡(luò)、Integrate-and-Fire神經(jīng)網(wǎng)絡(luò)以及細(xì)胞神經(jīng)網(wǎng)絡(luò)，并將其應(yīng)用于函數(shù)逼近、模式識(shí)別、數(shù)據(jù)分類和圖像處理。論文的主要研究工作可概括為以下幾個(gè)方面：
　　 1.對(duì)無約束全局優(yōu)化問題，分別將高斯變異和正交雜交用于差分進(jìn)化算法的變異算子和雜交算子中，給出了一種插

2、值局部搜索算子，提出了嵌入正交雜交和局部搜索的差分進(jìn)化算法。對(duì)20個(gè)標(biāo)準(zhǔn)測(cè)試函數(shù)作了數(shù)值實(shí)驗(yàn)。與文獻(xiàn)中其它差分進(jìn)化算法的比較結(jié)果表明了算法的有效性。
　　 由預(yù)估-校正法確定前饋神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的情況下，將改進(jìn)的差分進(jìn)化算法和Levenberg-Marquardt(LM)算法相結(jié)合，提出了一種混合訓(xùn)練算法，優(yōu)化前饋神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值。將該進(jìn)化神經(jīng)網(wǎng)絡(luò)應(yīng)用于函數(shù)逼近、模式分類和識(shí)別問題。
　　 2.對(duì)同時(shí)含有二進(jìn)制變量和實(shí)數(shù)

3、變量的非線性優(yōu)化問題，采用二進(jìn)制和實(shí)數(shù)混合編碼，在差分進(jìn)化變異算子中引入異或邏輯運(yùn)算處理二進(jìn)制變量，將正交雜交引入到雜交算子中，提出了一種協(xié)同二進(jìn)制--實(shí)數(shù)差分進(jìn)化算法。對(duì)該算法作了大量的數(shù)值測(cè)試，并與文獻(xiàn)中已有的進(jìn)化算法作了比較，結(jié)果表明了該算法性能優(yōu)良。
　　 將改進(jìn)的協(xié)同二進(jìn)制--實(shí)數(shù)差分進(jìn)化算法和尺度化共軛梯度反向傳播算法相結(jié)合，構(gòu)成兩階段訓(xùn)練算法，同時(shí)優(yōu)化前饋神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和權(quán)值。將該進(jìn)化神經(jīng)網(wǎng)絡(luò)應(yīng)用于函數(shù)逼近和模式分

4、類問題。
　　 3.對(duì)含有二進(jìn)制變量和整數(shù)變量的非線性離散優(yōu)化問題，采用二進(jìn)制和整數(shù)混合編碼，分別將異或邏輯運(yùn)算和正交雜交引入到離散差分進(jìn)化算法的變異算子和雜交算子中，提出了一種協(xié)同二進(jìn)制--整數(shù)差分進(jìn)化算法，對(duì)該算法作了大量的數(shù)值測(cè)試，并與文獻(xiàn)中已有算法作了比較，結(jié)果表明了該算法的有效性。
　　 采用協(xié)同二進(jìn)制--整數(shù)差分進(jìn)化算法，同時(shí)進(jìn)化前饋神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和整數(shù)權(quán)值。將該進(jìn)化神經(jīng)網(wǎng)絡(luò)應(yīng)用于函數(shù)逼近和模式分類問題。

5、r>　　 4.針對(duì)Lapicque提出的Integrate-and-Fire(IF)模型，給出了一種新的側(cè)抑制連接的IF網(wǎng)絡(luò)模型，并討論了其輸入--輸出關(guān)系。與以往的IF模型相比，此模型的活動(dòng)方程被大大簡(jiǎn)化了。其運(yùn)行結(jié)果很好地?cái)M合了神經(jīng)細(xì)胞的生理特性，尤其是該模型較好地匹配了突觸連接的非線性特性。對(duì)其點(diǎn)火機(jī)制進(jìn)行了改進(jìn)，采用異步點(diǎn)火法，這使得網(wǎng)絡(luò)的適應(yīng)性有了很大的提高。
　　 討論了指數(shù)衰減閾值對(duì)高斯白噪聲刺激下的IF神經(jīng)元的

6、影響，主要研究了對(duì)點(diǎn)火脈沖時(shí)間間隔的均值和標(biāo)準(zhǔn)差的影響。結(jié)果顯示當(dāng)閾值衰減緩慢時(shí)，不論神經(jīng)元的點(diǎn)火頻率何時(shí)與衰減頻率相當(dāng)，脈沖時(shí)間間隔的變化系數(shù)都能達(dá)到最小值。通過改變?cè)肼晱?qiáng)度或者輸入電流而改變點(diǎn)火頻率也可以產(chǎn)生同樣的影響。分析了在神經(jīng)元點(diǎn)火后重新設(shè)置膜電位所引起的誤差。
　　 5.提出了一種具有經(jīng)典條件反射行為的認(rèn)知模型，該模型以IF神經(jīng)元為基本元素，互聯(lián)形成具有反射弧結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)，能充分表現(xiàn)經(jīng)典條件反射對(duì)時(shí)間的依賴性。計(jì)算

7、機(jī)仿真顯示IF模型能成功地模擬習(xí)得、遺忘、刺激間隔效應(yīng)、阻止和二階條件反射等現(xiàn)象。
　　 6.提出了一種具有暫態(tài)混沌的細(xì)胞神經(jīng)網(wǎng)絡(luò)，該網(wǎng)絡(luò)是利用歐拉算法將模型的狀態(tài)方程轉(zhuǎn)化為離散形式，并引入一項(xiàng)負(fù)的自反饋而形成的。對(duì)單個(gè)神經(jīng)元的仿真發(fā)現(xiàn)該模型具有分叉和混沌的特性。在函數(shù)優(yōu)化中，該網(wǎng)絡(luò)首先經(jīng)過一個(gè)倍周期倒分叉過程進(jìn)行混沌搜索，然后進(jìn)行類似Hopfield網(wǎng)絡(luò)的梯度搜索。由于它利用了混沌搜索固有的隨機(jī)性和軌道遍歷性，因而具有較強(qiáng)的全