第九講 神經(jīng)網(wǎng)絡(luò)秦中元東南大學(xué)信息科學(xué)與工程學(xué)院zyqin@

1、2009/10/21,1,第九講 神經(jīng)網(wǎng)絡(luò)秦中元東南大學(xué)信息科學(xué)與工程學(xué)院zyqin@seu.edu.cn,2009年東南大學(xué)碩士研究生課程模式識別(Pattern Recognition),2009/10/21,2,上講復(fù)習(xí),特征提取的必要性類別可分性測度(Class Separability Criteria)離散K-L變換使用K-L變換實(shí)現(xiàn)特征提取K-L變換的其他應(yīng)用特征選擇,2009/10/21,3,K-L

2、展開式系數(shù)的計(jì)算,求隨機(jī)向量x的自相關(guān)矩陣R=E{xxt}。求出自相關(guān)矩陣R的本征根 ?i和對應(yīng)的本征向量 。得矩陣展開式系數(shù)即為a= ? txx可以表示為,2009/10/21,4,按K-L展開式選擇特征,K-L展開式系數(shù)aj也就是變換后的特征，用yj表示，寫成向量形式：y= ?Tx。此時(shí)變換矩陣?用m個(gè)特征向量組成。為使誤差最小，不采用的特征向量，其對應(yīng)的特征值應(yīng)盡可能小。因此，將特征值按大小次序標(biāo)號，即若首

3、先采用前面的m個(gè)特征向量，便可使變換誤差最小。此時(shí)的變換矩陣為? = (?1 ? 2 … ? m),2009/10/21,5,本講內(nèi)容,神經(jīng)網(wǎng)絡(luò)的引入神經(jīng)網(wǎng)絡(luò)的基本概念BP學(xué)習(xí)算法,2009/10/21,6,感知器算法回顧,感知器算法屬于線性分類器：感知器算法可圖示如下：,2009/10/21,7,McCulloch-Pitts神經(jīng)元,典型的f為硬限幅函數(shù)(hard limiter)。將求和和激勵(lì)函數(shù)合并可表示

4、為：采用硬限幅函數(shù)的神經(jīng)元稱為McCulloch-Pitts神經(jīng)元。,2009/10/21,8,神經(jīng)網(wǎng)絡(luò)的引入—XOR運(yùn)算,XOR運(yùn)算是一個(gè)典型的非線性分類問題。邏輯運(yùn)算分類圖,2009/10/21,9,利用感知器對OR進(jìn)行分類,2009/10/21,10,以兩條直線來劃分XOR,問題相當(dāng)于分成了兩步：1 確定兩條分界線，每個(gè)分界線實(shí)現(xiàn)對平面的一個(gè)分類；2 將第一步的結(jié)果組合起來，實(shí)現(xiàn)正確分類。,2009/10/21

5、,11,解決XOR分類的神經(jīng)網(wǎng)絡(luò),XOR分類的分析兩層前饋神經(jīng)網(wǎng)絡(luò)第1層神經(jīng)元完成第1步的工作，稱為隱含層；第2層神經(jīng)元稱為輸出層；最前面還有輸入層。輸入層節(jié)點(diǎn)的個(gè)數(shù)？,,,,2009/10/21,12,兩層感知器的分類能力,前面隱含層的功能是把輸入的模式進(jìn)行一個(gè)映射，映射到二維空間單位長度正方形的頂點(diǎn)。一般的兩層感知器結(jié)構(gòu)：,2009/10/21,13,兩層感知器的分類能力,對于A類: (000,001,011),B類: (

6、010,100,110,111)的分類。但是對于A類: (000,111,110),其余B類無法實(shí)現(xiàn)正確分類。兩層感知器的分類能力有限。,2009/10/21,14,三層感知器的分類能力,三層感知器能夠解決任意區(qū)域組合的分類問題。,2009/10/21,15,神經(jīng)網(wǎng)絡(luò)的概念,神經(jīng)網(wǎng)絡(luò)是由大量簡單的基本元件—神經(jīng)元相互連接而成的自適應(yīng)非線性動態(tài)系統(tǒng)。每個(gè)神經(jīng)元的結(jié)構(gòu)和功能比較簡單，而大量神經(jīng)元組合產(chǎn)生的系統(tǒng)行為卻非常復(fù)雜。

7、經(jīng)典的McCulloch-Pitts模型：1943年提出，是神經(jīng)網(wǎng)絡(luò)研究的先驅(qū)。50年代Rosenblatt提出感知器。1982年Hopfield引入能量函數(shù)概念。1986年Rumelhart和McClelland提出著名的BP (Back Propagation)算法。該算法由后向前修正各層之間的連接權(quán)值，從實(shí)踐上證明了神經(jīng)網(wǎng)絡(luò)具有很強(qiáng)的運(yùn)算能力。,2009/10/21,16,神經(jīng)網(wǎng)絡(luò)的幾個(gè)主要部分,神經(jīng)元功能函數(shù)硬限

8、幅(hard limit)函數(shù)Sigmoid函數(shù)連接形式前饋網(wǎng)絡(luò)反饋網(wǎng)絡(luò)學(xué)習(xí)算法誤差修正法,2009/10/21,17,BP算法,注意：不再采用硬限幅函數(shù)，而采用sigmoid函數(shù)定義一個(gè)準(zhǔn)則函數(shù)迭代地調(diào)整權(quán)值，使得準(zhǔn)則函數(shù)極小化假定：網(wǎng)絡(luò)有L層；訓(xùn)練樣本對有N對。(y(i),x(i)),2009/10/21,18,某層的網(wǎng)絡(luò)結(jié)構(gòu),2009/10/21,19,BP算法過程,初始化。所有權(quán)值設(shè)為偽隨機(jī)數(shù)。前向