模糊神經(jīng)網(wǎng)絡

1、“當系統(tǒng)的復雜性增加時，我們使它精確化的能力將減小。直到達到一個閾值，一旦超越它，復雜性和精確性將互相排斥?！?——模糊數(shù)學創(chuàng)始人L.A.Zadeh教授,互克性原理,雨的大小,風的強弱,人的胖瘦,年齡大小,個子高低,天氣冷熱,客觀世界的模糊性反映在人腦中，便產(chǎn)生了概念上的模糊性；人巧妙地利用自已建立的模糊概念來進行判斷、推理和控制，完成那些現(xiàn)代先進設備所不能完成的工作： 人們幾乎

2、可以同樣地辨認胖子和瘦子，美麗和丑陋； 人們無須測量車速便可明智地躲過川流不息的車隊； 一行草書雖然大異于整齊的印刷字體，卻照樣可以被人看懂。,在科學發(fā)展的今天，尤其在工程研究設計領域，模糊問題無法回避，要求對數(shù)據(jù)進行定量分析。,模糊概念,定量分析,1、模糊理論 1965年，Zadeh教授發(fā)表論文“模糊集合”（Fuzzy set），標志模糊數(shù)學的誕生。模糊集合的基本思想是把經(jīng)典集合中的絕對隸屬關系靈活化，即元素對“

3、集合”的隸屬度不再是局限于取0或1，而是可以取從0到1間的任一數(shù)值。用隸屬函數(shù)(Membership Function)來刻畫處于中間過渡的事物對差異雙方所具有的傾向性。隸屬度（Membership Degree）就表示元素隸屬于集合的程度。,設X是論域，映射A(x)：X→[0,1]確定了一個X上的模糊子集A，A(x)稱為A的隸屬函數(shù)。,,,,,,,例1,,,,,,,,,例2,,,,,,,,隸屬函數(shù)是模糊理論中的重要概念，實際應用中

4、經(jīng)常用到以下三類隸屬函數(shù)：（1）S函數(shù)（偏大型隸屬函數(shù)）,注：(a、b為待定參數(shù)),（2）Z函數(shù)（偏小型隸屬函數(shù)）這種隸屬函數(shù)可用于表示像年輕、冷、矮、淡等偏向小的一方的模糊現(xiàn)象。（3）∏函數(shù)（中間型隸屬函數(shù)） 這種隸屬函數(shù)可用于表示像中年、適中、平均等趨于中間的模糊現(xiàn)象。,,圖a、b、c分別表示偏大型、偏小型和中間型,,常用的模糊分布有矩形分布或半矩形分別、梯形或半梯形分布、拋物線型分布、正態(tài)分

5、布、高斯分布、鐘型函數(shù)等等。,(1)矩形或半矩形分布,(2)梯形或半梯形分布,(3)拋物線形分布,(4)正態(tài)分布,(5)高斯分布,鐘型函數(shù),三角形隸屬函數(shù),梯形隸屬函數(shù),高斯形隸屬函數(shù),鐘型隸屬函數(shù),2、模糊系統(tǒng)（Fussy System，簡稱FS）,許多實際的應用系統(tǒng)很難用準確的術語來描述。如化學過程中的“溫度很高”、“反應驟然加快”等。 模糊系統(tǒng)（也稱模糊邏輯系統(tǒng)）就是以模糊規(guī)則為基礎而具有模糊信息處理能力的動態(tài)模型。,

6、2.1 模糊系統(tǒng)的構成 模糊系統(tǒng)（也稱模糊邏輯系統(tǒng)）就是以模糊規(guī)則為基礎而具有模糊信息處理能力的動態(tài)模型。它由四部分構成，如下圖：,（1）模糊化接口（Fuzzification）模糊化接口主要將檢測輸入變量的精確值根據(jù)其模糊度劃分和隸屬度函數(shù)轉換成合適的模糊值。 為了盡量減少模糊規(guī)則數(shù)，可對于檢測和控制精度要求高的變量劃分多(一般5一7個)的模糊度，反之則劃分少(一般3個)的模糊度。當完成變量的模糊度劃分后，需定義變量各模

7、糊集的隸屬函數(shù)。,,（2）知識庫（knowledge base）知識庫中存貯著有關模糊控制器的一切知識，包含了具體應用領域中的知識和要求的控制目標，它們決定著模糊控制器的性能，是模糊控制器的核心。 如專家經(jīng)驗等。,比如：If渾濁度 清，變化率 零，then洗滌時間 短 If渾濁度 較濁，變化率 小，then洗滌時間 標準,（3）模糊推理機（ Fuzzy Inference Engine）根據(jù)模糊邏輯法

8、則把模糊規(guī)則庫中的模糊“if-then”規(guī)則轉換成某種映射。模糊推理，這是模糊控制器的核心，模擬人基于模糊概念的推理能力。,（4）反模糊化器（Defuzzification） 把輸出的模糊量轉化為實際用于控制的清晰量。,按照常見的形式，模糊推理系統(tǒng)可分為: 純模糊邏輯系統(tǒng) 高木-關野(Takagi-Sugeno)模糊邏輯系統(tǒng) 其他模糊邏輯系統(tǒng),,2.2 模糊系統(tǒng)的分類,2.2.1 純模糊邏

9、輯系統(tǒng),純模糊邏輯系統(tǒng)僅由知識庫和模糊推理機組成。其輸入輸出均是模糊集合。,×,×,,,純模糊邏輯系統(tǒng)結構圖,純模糊邏輯系統(tǒng)的優(yōu)點：提供了一種量化專輯語言信息和在模糊邏輯原則下系統(tǒng)地利用這類語言信息的一般化模式；缺點：輸入輸出均為模糊集合，不易為絕大數(shù)工程系統(tǒng)所應用。,2.2.2 高木-關野模糊系統(tǒng),該系統(tǒng)是由日本學者Takagi和Sugeno提出的，系統(tǒng)輸出為精確值，也稱為T-S模糊系統(tǒng)或Sugeno系統(tǒng)。舉例

10、：,,典型的一階Sugeno型模糊規(guī)則形式如下： 其中： x和y為輸入語言變量；A和B為推理前件的模糊集合；z為輸出語言變量；p、q、k為常數(shù)。,2.3 自適應模糊系統(tǒng) 自適應模糊系統(tǒng)是指具有學習算法的模糊邏輯系統(tǒng)，其中模糊邏輯系統(tǒng)是由服從模糊邏輯規(guī)則的一系列“If-then”規(guī)則構造的；學習算法則依靠數(shù)據(jù)信息來調整模糊邏輯系統(tǒng)的參數(shù)。 自適應模糊系統(tǒng)被認為是通過學習能自動產(chǎn)生其模糊規(guī)則的模糊

11、邏輯系統(tǒng)。,,(1)從知識的表達方式來看模糊系統(tǒng)可以表達人的經(jīng)驗性知識，便于理解，而神經(jīng)網(wǎng)絡只能描述大量數(shù)據(jù)之間的復雜函數(shù)關系，難于理解。(2)從知識的存儲方式來看模糊系統(tǒng)將知識存在規(guī)則集中，神經(jīng)網(wǎng)絡將知識存在權系數(shù)中，都具有分布存儲的特點。,2.4 模糊系統(tǒng)與神經(jīng)網(wǎng)絡的區(qū)別與聯(lián)系,,(3)從知識的運用方式來看模糊系統(tǒng)和神經(jīng)網(wǎng)絡都具有并行處理的特點，模糊系統(tǒng)同時激活的規(guī)則不多，計算量小，而神經(jīng)網(wǎng)絡涉及的神經(jīng)元很多，計算量大。(

12、4)從知識的獲取方式來看模糊系統(tǒng)的規(guī)則靠專家提供或設計，難于自動獲?。窠?jīng)網(wǎng)絡的權系數(shù)可由輸入輸出樣本中學習，無需人來設置。,將兩者結合起來，在處理大規(guī)模的模糊應用問題方面將表現(xiàn)出優(yōu)良的效果。,模糊神經(jīng)網(wǎng)絡？,3、模糊神經(jīng)網(wǎng)絡（FNN）,模糊神經(jīng)網(wǎng)絡（Fuzzy Neural Network，簡稱FNN）將模糊系統(tǒng)和神經(jīng)網(wǎng)絡相結合，充分考慮了二者的互補性，集邏輯推理、語言計算、非線性動力學于一體，具有學習、聯(lián)想、識別、自適應和模糊信

13、息處理能力等功能。 其本質就是將常規(guī)的神經(jīng)網(wǎng)絡輸入模糊輸入信號和模糊權值。,在模糊神經(jīng)網(wǎng)絡中，神經(jīng)網(wǎng)絡的輸入、輸出節(jié)點用來表示模糊系統(tǒng)的輸入、輸出信號，神經(jīng)網(wǎng)絡的隱含節(jié)點用來表示隸屬函數(shù)和模糊規(guī)則，利用神經(jīng)網(wǎng)絡的并行處理能力使得模糊系統(tǒng)的推理能力大大提高。,,模糊神經(jīng)網(wǎng)絡的三種形式：邏輯模糊神經(jīng)網(wǎng)絡算術模糊神經(jīng)網(wǎng)絡（常規(guī)模糊神經(jīng)網(wǎng)絡）混合模糊神經(jīng)網(wǎng)絡,3.1 典型模糊神經(jīng)網(wǎng)絡的結構,由于模糊系統(tǒng)的規(guī)則集和隸屬度函數(shù)等設

14、計參數(shù)只能靠設計經(jīng)驗來選擇，所以用神經(jīng)網(wǎng)絡的學習方法，根據(jù)輸入輸出的學習樣本自動設計和調整模糊系統(tǒng)的設計參數(shù)，實現(xiàn)模糊系統(tǒng)的自學習和自適應功能。結構上像神經(jīng)網(wǎng)絡，功能上是模糊系統(tǒng)，這是目前研究和應用最多的一類模糊神經(jīng)網(wǎng)絡。,,該網(wǎng)絡共分5層，是根據(jù)模糊系統(tǒng)的工作過程來設計的，是神經(jīng)網(wǎng)絡實現(xiàn)的模糊推理系統(tǒng)。第二層的隸屬函數(shù)參數(shù)和三、四層間及四、五層間的連接權是可以調整的。,典型的模糊神經(jīng)網(wǎng)絡結構,第一層為輸入層，為精確值。節(jié)點個數(shù)為輸

15、入變量的個數(shù)。,典型的模糊神經(jīng)網(wǎng)絡結構,第二層為輸入變量的隸屬函數(shù)層，實現(xiàn)輸入變量的模糊化。,典型的模糊神經(jīng)網(wǎng)絡結構,第三層也稱“與”層，該層節(jié)點個數(shù)為模糊規(guī)則數(shù)。該層每個節(jié)點只與第二層中前m個節(jié)點中的一個和后n個節(jié)點中的一個相連，共有m ×n個節(jié)點，也就是有m ×n條規(guī)則。,典型的模糊神經(jīng)網(wǎng)絡結構,第四層為“或”層，節(jié)點數(shù)為輸出變量模糊度劃分的個數(shù)q。該層與第三層的連接為全互連，連接權值為Wkj，其中k=

16、1,2,…,q; j=1,2,…,m×n.（權值代表了每條規(guī)則的置信度，訓練中可調。）,典型的模糊神經(jīng)網(wǎng)絡結構,第五層為清晰化層，節(jié)點數(shù)為輸出變量的個數(shù)。該層與第四層的連接為全互連，該層將第四層各個節(jié)點的輸出，轉換為輸出變量的精確值。,3.2 模糊神經(jīng)網(wǎng)絡的學習算法,模糊神經(jīng)網(wǎng)絡無論作為逼近器，還是模式存儲器，都是需要學習和優(yōu)化權系數(shù)的。學習算法是模糊神經(jīng)網(wǎng)絡優(yōu)化權系數(shù)的關鍵。模糊神經(jīng)網(wǎng)絡的學習算法，大多來自神經(jīng)網(wǎng)絡，

17、如BP算法、RBF算法等。,Matlab實現(xiàn),自適應模糊神經(jīng)推理系統(tǒng)，也稱為基于神經(jīng)網(wǎng)絡的自適應模糊推理系統(tǒng)(Adaptive Network-based Fuzzy Inference System)，簡稱ANFIS，1993年由學者Jang Roger提出。融合了神經(jīng)網(wǎng)絡的學習機制和模糊系統(tǒng)的語言推理能力等優(yōu)點，彌補各自不足。同其他模糊神經(jīng)系統(tǒng)相比，ANFIS具有便捷高效的特點。,ANFIS使用一個給定的輸入輸出數(shù)據(jù)集,從而構造出

18、一個模糊推理系統(tǒng)(支持T-S型系統(tǒng)),并用一個單獨的反向傳播算法或該算法與最小二乘法相結合的方法來完成對系統(tǒng)隸屬函數(shù)參數(shù)的調節(jié)。這使得模糊系統(tǒng)可以從其建模數(shù)據(jù)中學習信息。,ANFIS建模方法,首先假定一個參數(shù)化的模型結構，然后采集輸入輸出的數(shù)據(jù)，最后使用ANFIS訓練FIS（fuzzy inference system）模型，根據(jù)選定的誤差準則修正隸屬函數(shù)參數(shù)，仿真給定的訓練數(shù)據(jù)。,具體步驟：,（1）將選取的訓練樣本和評價樣本分別寫入兩

19、個.dat文件。如trainData.dat和checkData,dat作為ANFIS的數(shù)據(jù)源，在ANFIS編輯器中載入這兩個樣本數(shù)據(jù)。 load trainData.dat load checkData.dat,（2）初始化模糊推理系統(tǒng)FIS的參數(shù)，包括選擇輸入的隸屬度函數(shù)，利用規(guī)則編輯器生成規(guī)則等等，作為訓練初始的FIS。 fismat= genfis1(trainData),fismat

20、= genfis1(data) fismat = genfis1(data,numMFs,inmftype, outmftype),The default number of membership functions, numMFs, is 2; the default input membership function type is 'gbellmf'; and the default output members

21、hip function type is 'linear'.,（3）根據(jù)載入ANFIS編輯器中的訓練樣本和評價樣本數(shù)據(jù)，利用anfis函數(shù)對已初始化的FIS結構進行訓練。 [fismat,error,stepsize] = anfis(trnData,fismat,n) 注：fismat是已初始化的FIS結構，n為訓練次數(shù)。,（4）利用evalfis、plot等函數(shù)，對訓練好的模糊神經(jīng) 推理系統(tǒng)進行驗證

22、。 如 evalfis（[x1,x2,…]，format）； plot（error）,例1：設某水泥廠煤粉制備系統(tǒng)煤磨的輸入輸出特征數(shù)據(jù)見下表。利用表中樣本建立一個模糊神經(jīng)推理系統(tǒng)。,表：輸入輸出樣本,X1-X5為煤磨機的特征參數(shù)，Y為煤磨機的狀態(tài)（正?；虍惓＃?,(1)將1-9作為訓練樣本，10-11作為評價樣本。(2)將表中的訓練樣本寫入trainData.dat，作為ANFIS的數(shù)據(jù)源，并在ANFIS編輯器中載

23、入樣本數(shù)據(jù)：load trainData.dat(3)利用ANFIS自動生成一個FIS結構作為初始FIS。 in_format=genfis1(trainData)(4)對初始FIS(in_format)進行訓練。對樣本數(shù)據(jù)訓練200次后得到一個訓練好的ANFIS系統(tǒng)。 [format1,error1,stepsize]=anfis(trainData,in_format,200),(5)運用評價數(shù)據(jù)對訓練好的模糊神經(jīng)系統(tǒng)

24、進行驗證，觀察仿真結果。 如input=[58 16 11 793 3302;33 10 11 783 3114], evalfis(input,format1),例2：anfis函數(shù)逼近,函數(shù) 分別在區(qū)間： 進行函數(shù)逼近。,,,,[x1,x2]=me

25、shgrid(-1:0.1:1,-1:0.05:1); %將輸入空間劃分為41*21個網(wǎng)格點y=0.5*(pi*(x1.^2)).*sin(2*pi*x2); %求得函數(shù)輸出值x11=reshape(x1,861,1); %將輸入變量變?yōu)榱邢蛄縳12=reshape(x2,861,1); %將輸入變量變?yōu)榱邢蛄縴1=reshape(y,861,1);

26、 %將輸出變量變?yōu)榱邢蛄縯rnData=[x11(1:2:861) x12(1:2:861) y1(1:2:861)]; %構造訓練數(shù)據(jù)chkData=[x11 x12 y1]; %構造檢驗數(shù)據(jù)numMFs=5; %定義隸屬函數(shù)個數(shù)mfType='gbellmf';epoch_n=20; %定義隸屬函數(shù)類型及訓練次數(shù)in_fisMa

27、t=genfis1(trnData,numMFs,mfType); %采用genfis1函數(shù)由訓練數(shù)據(jù)直接生成模糊推理系統(tǒng),參考代碼,out_fisMat=anfis(trnData,in_fisMat, epoch_n); %訓練模糊系統(tǒng)y11=evalfis(chkData(:,1:2),out_fisMat); %對訓練好的模糊神經(jīng)

28、推理系統(tǒng)進行驗證x111=reshape(x11,41,21);x112=reshape(x12,41,21);y111=reshape(y11,41,21); %構造41*21向量矩陣subplot(221),mesh(x1,x2,y);title('期望輸出');subplot(222),mesh(x111,x112,y111);title('實際輸出');subplot(223),

29、mesh(x1,x2,(y-y111));title('誤差');[x,mf]=plotmf(in_fisMat,'input',1);[x,mf1]=plotmf(out_fisMat,'input',1);subplot(224),plot(x,mf,'r-',x,mf1,'k--');title('隸屬度函數(shù)變化');,,,訓練后

30、的模糊神經(jīng)網(wǎng)絡結構圖,,,運行結果,也可以：,運用ANFIS構建模型,首先在打開MATLAB,并在命令行中鍵入“anfisedit”,從而打開ANFIS編輯器操作界面。,編輯FIS屬性,,,,可以修改輸入變量、輸出變量的個數(shù)等。,下一步根據(jù)實際要求定義各個量的屬性。,“Edit”—“Membership functions”進行輸入輸出變量隸屬函數(shù)的定義。,設置模糊控制規(guī)則庫：“Edit”—“rules”,,,例3：洗衣機的模糊控制,洗

31、衣機的主要被控參量為洗滌時間和水流強度，而影響這一輸出參量的主要因子是被洗物的渾濁程度和渾濁性質，后者可用渾濁度的變化率來描述。例如，在洗滌過程中，油污的渾濁度變化率小，泥污的渾濁度變化率大。渾濁度及其變化率作為控制系統(tǒng)的輸入?yún)⒘?，洗滌時間和水流強度作為系統(tǒng)的輸出。洗衣過程中輸入和輸出很難用一定的數(shù)學模型進行描述，很大程度上依賴操作者的經(jīng)驗。利用專家知識進行控制決策，往往容易實現(xiàn)優(yōu)化控制。,確定洗滌時間的模糊推理框圖,輸入量為水的渾

32、濁度及其變化率，輸出量為洗滌時間。,渾濁度語言值取{很清、清、較清、中、較濁、濁、很濁}渾濁度變化率語言值取{很小、小、較小、零、較大、大、很大}洗滌時間……,描述輸入、輸出變量都具有模糊性，轉換為模糊集合的隸屬函數(shù)問題。,建立隸屬函數(shù)，確定模糊集合。根據(jù)專家經(jīng)驗，針對洗滌時間得到16條模糊規(guī)則，根據(jù)模糊規(guī)則，構建網(wǎng)絡訓練樣本，進行網(wǎng)絡訓練。 比如：渾濁度 清，變化率 零，洗滌時間 短 渾濁度