bp神經(jīng)網(wǎng)絡(luò)原理及應(yīng)用

1、BP 神經(jīng)網(wǎng)絡(luò)原理及應(yīng)用 神經(jīng)網(wǎng)絡(luò)原理及應(yīng)用1 人工神經(jīng)網(wǎng)絡(luò)簡(jiǎn)介 人工神經(jīng)網(wǎng)絡(luò)簡(jiǎn)介1.1 生物神經(jīng)元模型 生物神經(jīng)元模型神經(jīng)系統(tǒng)的基本構(gòu)造是神經(jīng)元（神經(jīng)細(xì)胞） ，它是處理人體內(nèi)各部分之間相互信息傳遞的基本單元。據(jù)神經(jīng)生物學(xué)家研究的結(jié)果表明，人的大腦一般有個(gè)神經(jīng)元。每個(gè)神經(jīng)元都由一個(gè)細(xì)胞體，一個(gè)連接其他神經(jīng)元的軸突 10 11 10 10 ?和一些向外伸出的其它較短分支——樹(shù)突組成。軸突的功能是將本神經(jīng)元的輸 出信號(hào)（興奮）傳遞給別的神經(jīng)

2、元。其末端的許多神經(jīng)末梢使得興奮可以同時(shí)送給多個(gè)神經(jīng)元。樹(shù)突的功能是接受來(lái)自其它神經(jīng)元的興奮。神經(jīng)元細(xì)胞體將接受到的所有信號(hào)進(jìn)行簡(jiǎn)單地處理后由軸突輸出。神經(jīng)元的樹(shù)突與另外的神經(jīng)元的神經(jīng)末梢相連的部分稱(chēng)為突觸。1.2 人工神經(jīng)元模型 人工神經(jīng)元模型神經(jīng)網(wǎng)絡(luò)是由許多相互連接的處理單元組成。這些處理單元通常線性排列成 組，稱(chēng)為層。每一個(gè)處理單元有許多輸入量，而對(duì)每一個(gè)輸入量都相應(yīng)有一個(gè)相關(guān) 聯(lián)的權(quán)重。處理單元將輸入量經(jīng)過(guò)加權(quán)求和，并通過(guò)傳遞函

3、數(shù)的作用得到輸出 量，再傳給下一層的神經(jīng)元。目前人們提出的神經(jīng)元模型已有很多，其中提出最早且影（２）無(wú)師學(xué)習(xí) 無(wú)師學(xué)習(xí)算法不需要知道期望輸出。在訓(xùn)練過(guò)程中，只要向神 經(jīng)網(wǎng)絡(luò)提供輸入模式，神經(jīng)網(wǎng)絡(luò)就能夠自動(dòng)地適應(yīng)連接權(quán)，以便按相似特征把輸入模式分組聚集。無(wú)師學(xué)習(xí)算法的例子包括 Kohonen 算法和 Carpenter- Grossberg 自適應(yīng)共振理論（ART）等。 （３）強(qiáng)化學(xué)習(xí) 如前所述，強(qiáng)化學(xué)習(xí)是有師學(xué)習(xí)的特例。它不需要老師給出

4、目標(biāo)輸出。強(qiáng)化學(xué)習(xí)算法采用一個(gè)“評(píng)論員”來(lái)評(píng)價(jià)與給定輸入相對(duì)應(yīng)的神。2 BP 神經(jīng)網(wǎng)絡(luò)原理 神經(jīng)網(wǎng)絡(luò)原理2.1 基本 基本 BP 算法公式推導(dǎo) 算法公式推導(dǎo)基本 BP 算法包括兩個(gè)方面：信號(hào)的前向傳播和誤差的反向傳播。即計(jì)算實(shí)際輸出時(shí)按從輸入到輸出的方向進(jìn)行，而權(quán)值和閾值的修正從輸出到輸入的方向進(jìn)行。1 a 1 ?ki wij wL ak aq ?i ?……… ………1 xj xM x1 ok oL o輸出變量輸入變量輸入層 隱含層 輸

5、出層?????????圖 2-1 BP 網(wǎng)絡(luò)結(jié)構(gòu)Fig.2-1 Structure of BP network圖中： j x 表示輸入層第 j 個(gè)節(jié)點(diǎn)的輸入，j=1,…,M；ij w 表示隱含層第 i 個(gè)節(jié)點(diǎn)到輸入層第 j 個(gè)節(jié)點(diǎn)之間的權(quán)值；i ? 表示隱含層第 i 個(gè)節(jié)點(diǎn)的閾值；( ) x ? 表示隱含層的激勵(lì)函數(shù)；ki w 表示輸出層第 k 個(gè)節(jié)點(diǎn)到隱含層第 i 個(gè)節(jié)點(diǎn)之間的權(quán)值，i=1,…,q；k a 表示輸出層第 k 個(gè)節(jié)點(diǎn)的閾