神經(jīng)網(wǎng)絡(luò)在數(shù)學建模競賽中的應(yīng)用

1、1第1章引言引言1.1人工神經(jīng)網(wǎng)絡(luò)的介紹人工神經(jīng)網(wǎng)絡(luò)的介紹人工神經(jīng)網(wǎng)絡(luò)（ArtificialNeuralwksANN），亦稱為神經(jīng)網(wǎng)絡(luò)（NeuralwksNN）是由大量的處理單元（神經(jīng)元Neurons）廣泛互聯(lián)而成的網(wǎng)絡(luò)，是對大腦的抽象、簡化和模擬，反映人腦的基本特性.人工神經(jīng)網(wǎng)絡(luò)的研究是從人腦的生理結(jié)構(gòu)出發(fā)來研究人的智能行為，模擬人腦信息處理的功能.它是根植于神經(jīng)科學、數(shù)學、物理學、計算機科學及工程等科學的一種技術(shù).人工神經(jīng)網(wǎng)絡(luò)是由簡

2、單的處理單元所組成的大量并行分布的處理機，這種處理機具有儲存和應(yīng)用經(jīng)念知識的自然特性，它與人腦的相似之處概括兩個方面：一是通過學習過程利用神經(jīng)網(wǎng)絡(luò)從外部環(huán)境中獲取知識；二是內(nèi)部神經(jīng)元（突觸權(quán)值）用來存儲獲取的知識信息.人工神經(jīng)網(wǎng)絡(luò)具有四個基本特征：（1）非線性非線性關(guān)系是自然界的普遍特性.大腦的智慧就是一種非線性現(xiàn)象.人工神經(jīng)元處于激活或抑制二種不同的狀態(tài)，這種行為在數(shù)學上表現(xiàn)為一種非線性關(guān)系.具有閾值的神經(jīng)元構(gòu)成的網(wǎng)絡(luò)具有更好的性能，

3、可以提高容錯性和存儲容量.（2）非局限性一個神經(jīng)網(wǎng)絡(luò)通常由多個神經(jīng)元廣泛連接而成.一個系統(tǒng)的整體行為不僅取決于單個神經(jīng)元的特征，而且可能主要由單元之間的相互作用、相互連接所決定.通過單元之間的大量連接模擬大腦的非局限性.聯(lián)想記憶是非局限性的典型例子.（3）非常定性人工神經(jīng)網(wǎng)絡(luò)具有自適應(yīng)、自組織、自學習能力.神經(jīng)網(wǎng)絡(luò)不但處理的信息可以有各種變化，而且在處理信息的同時，非線性動力系統(tǒng)本身也在不斷變化.經(jīng)常采用迭代過程描寫動力系統(tǒng)的演化過程.

4、（4）非凸性一個系統(tǒng)的演化方向，在一定條件下將取決于某個特定的狀態(tài)函數(shù).例如能量函數(shù)，它的極值相應(yīng)于系統(tǒng)比較穩(wěn)定的狀態(tài).非凸性是指這種函數(shù)有多個極值，故系統(tǒng)具有多個較穩(wěn)定的平衡態(tài)，這將導(dǎo)致系統(tǒng)演化的多樣性.人工神經(jīng)網(wǎng)絡(luò)是近年來的熱點研究領(lǐng)域，涉及到電子科學技術(shù)、信息與通訊工程、計算機科學與技術(shù)、電器工程、控制科學與技術(shù)等諸多學科，其應(yīng)用領(lǐng)域包括：建模、時間序列分析、模式識別和控制等，并在不斷的拓展.本文正是居于數(shù)學建模的神經(jīng)網(wǎng)路應(yīng)用.1

5、.21.2人工神經(jīng)網(wǎng)絡(luò)發(fā)展歷史人工神經(jīng)網(wǎng)絡(luò)發(fā)展歷史20世紀40年代中期期，在科學發(fā)展史上出現(xiàn)了模擬電子計算機和數(shù)字電子計算機兩種新的計算工具和一種描述神經(jīng)網(wǎng)絡(luò)工作的數(shù)學模型.由于電子技術(shù)(特別是大規(guī)模、超大規(guī)模集成電路)的發(fā)展，使數(shù)字電子計算機作為高科技計算工具已發(fā)展到當今盛世地步，而人工神經(jīng)網(wǎng)絡(luò)模擬仿真生物神經(jīng)網(wǎng)絡(luò)的探索則經(jīng)歷了半個世紀的曲折發(fā)展道路.3潮.1987年6月，在美國加州舉行了第一屆NN國際會議，有一千多名學者參加，并成立

6、了國際NN學會，以后每年召開兩次國際聯(lián)合NN大會（IJCNN），其他國際學術(shù)會議也都列有NN主題.較有影響的國際刊物有：《IEEETransactiononNeuralwk》和《Neuralwk》.美國IBM、AT&T、貝爾實驗室、神經(jīng)計算機公司、各高校、美國政府制定了“神經(jīng)、信息、行為科學（NIBS）”計劃，投資5.5億美元作為第六代計算機的研究基礎(chǔ)；美國科學基金會、海軍研究局和空軍科學研究部三家投資一千萬美元；美國國防部DARPA認

7、為NN“看來是解決機器智能的唯一希望”“這是一項比原子彈工程更重要的計術(shù)”投資四億美元.主要研究目標：目標識別與追蹤、連續(xù)語音識別，聲納信號辨別.日本的富士通、日本電氣、日立、三菱、東芝急起直追.1988年日本提出了所謂的人類尖端科學計劃（HumanFrontierScienceProgram）即第六代計算機研究計劃.法國提出了“尤里卡”計劃，還有德國的“歐洲防御”和前蘇聯(lián)的“高技術(shù)發(fā)展”等等.我國于1989年在北京召開了一個非正式的N

8、N會議；1990年12月在北京召開了中國NN大會；1991年在南京成立中國NN學會，由國內(nèi)十五個一級學會共同發(fā)起“攜手探智能，聯(lián)盟攻大關(guān)”的863高技術(shù)研究計劃；自然科學基金、國防科技預(yù)研究基金也都列入了NN研究內(nèi)容.1.3人工神經(jīng)網(wǎng)絡(luò)人工神經(jīng)網(wǎng)絡(luò)1.3.1生物神經(jīng)元模型生物神經(jīng)元模型在人類大腦皮層中大約有100億個神經(jīng)元，60萬億個神經(jīng)突觸以及他們的聯(lián)接體.單個神經(jīng)元處理一個事件需要秒，而在硅芯片中處理一事件只需秒.但人腦是310?9

9、10?一個非常高效的結(jié)構(gòu)，大腦中每秒鐘每個動作的能量約為焦耳.1610?神經(jīng)元是基本的信息處理單元.生物神經(jīng)元主要由樹突、軸突和突觸組成.其結(jié)構(gòu)示意如如圖11所示.其中樹突是由細胞體向外伸出的，有不規(guī)則的表面和許多較短的分支.樹突突觸樹突軸突神經(jīng)末梢細胞膜細胞質(zhì)細胞核圖11生物神經(jīng)元模型相當于信號的輸入端，用于接收神經(jīng)沖動.軸突由細胞體向外伸出的最長的一條分支，即神經(jīng)纖維.相當于信號的輸出電纜，其端部的許多神經(jīng)末梢為信號輸出端子，用于傳