基于小波的神經(jīng)網(wǎng)絡(luò)研究及其在信息處理中的應(yīng)用.pdf

1、小波分析與神經(jīng)網(wǎng)絡(luò)都是新一代計算智能信息處理技術(shù)的主要組成部分。小波變換是一個時間域和頻率域的局部變換，利用對小波函數(shù)的伸縮平移運算對信號進行不同尺度下的分析，可以有效地從信號中提取有用信息。它克服了傳統(tǒng)傅里葉變換不能同時進行時頻分析的缺陷，因而成為了非線性科學(xué)的前沿技術(shù)之一。人工神經(jīng)網(wǎng)絡(luò)是通過對人腦神經(jīng)網(wǎng)絡(luò)的合理抽象而形成的理論化模型，它可以依靠自身對環(huán)境的自學(xué)習(xí)能力獲取知識，并利用神經(jīng)元之間的連接權(quán)值存儲獲取的知識。小波神經(jīng)網(wǎng)絡(luò)（簡

2、稱小波網(wǎng)絡(luò)）是小波分析與神經(jīng)網(wǎng)絡(luò)相結(jié)合的產(chǎn)物，它可以一方面保持神經(jīng)網(wǎng)絡(luò)的多輸入并行處理能力、自學(xué)習(xí)能力、非線性映射和容錯能力等，另一方面將具有強數(shù)學(xué)基礎(chǔ)的小波分析方便地應(yīng)用于高維問題，有效地發(fā)揮二者的優(yōu)勢。本文在研究了已有經(jīng)典小波神經(jīng)網(wǎng)絡(luò)模型的基礎(chǔ)上，以前饋式小波網(wǎng)絡(luò)為主要研究對象，對具有張量積型小波函數(shù)的自適應(yīng)小波網(wǎng)絡(luò)的初始化、與模糊機制結(jié)合的模糊小波網(wǎng)絡(luò)構(gòu)造與算法、徑向小波網(wǎng)絡(luò)的算法等方面做了較為深入的研究與分析，并將其應(yīng)用于信號預(yù)

3、測，系統(tǒng)辨識，模式分類等方面，使得這幾類小波網(wǎng)絡(luò)在應(yīng)用方面具有更高的實用價值與意義。具體工作主要有:
　　首先，具有張量積型小波激活函數(shù)的多維輸入自適應(yīng)小波網(wǎng)絡(luò)(WNN M)是最早也是最經(jīng)典的小波網(wǎng)絡(luò)模型，其尺度參數(shù)、平移參數(shù)及線性權(quán)值均為網(wǎng)絡(luò)可調(diào)參數(shù)，應(yīng)用中增加了網(wǎng)絡(luò)的靈活性，使得用更小規(guī)模的小波網(wǎng)絡(luò)逼近非線性系統(tǒng)成為可能，在其應(yīng)用中，初始參數(shù)的設(shè)置仍多采取Q.H.Zhang提出的啟發(fā)式方法(HIA)。為了得到針對該模型的更理想

4、的參數(shù)初始值，使得網(wǎng)絡(luò)訓(xùn)練能夠快速收斂，提出了一種利用隱層小波函數(shù)時頻局部化特點的改進參數(shù)初始化方法(CIA)。該方法首先根據(jù)多維輸入數(shù)據(jù)的統(tǒng)計特征設(shè)定閾值向量，利用最鄰近聚類的思想確定網(wǎng)絡(luò)隱層神經(jīng)元個數(shù)，并由聚類后的類中心與半徑，通過隱層小波函數(shù)的時間窗寬確定相應(yīng)的小波平移參向量與尺度參向量的初始值。在對三類不同的時間序列預(yù)測的實驗中看出，相比于WNN_M-HIA，WNN_M-CIA的初始誤差明顯較低，在經(jīng)過梯度下降法的數(shù)次迭代后，其

5、預(yù)測精度仍優(yōu)于基于HIA初始化的網(wǎng)絡(luò)預(yù)測精度，說明了該初始化算法的有效性和合理性。
　　其次，考慮到將模糊理論與小波分析、神經(jīng)網(wǎng)絡(luò)結(jié)合研究的趨勢，提出了一種將TSK模糊系統(tǒng)與小波網(wǎng)絡(luò)結(jié)合的模糊小波網(wǎng)絡(luò)模型。該模型將具有連續(xù)參數(shù)和張量積型多維小波激活函數(shù)的小波網(wǎng)絡(luò)作為TSK模糊系統(tǒng)的結(jié)論部分，分析了與已有模糊小波網(wǎng)絡(luò)模型的區(qū)別，并將其應(yīng)用于非線性系統(tǒng)辨識。在訓(xùn)練算法方面，選擇使用基于粒子群算法和在線梯度下降法結(jié)合的混合優(yōu)化算法。通過

6、對兩個非線性系統(tǒng)進行辨識實驗，可以看出，即使采用了較少的模糊規(guī)則和參數(shù)規(guī)模，相比于已有的模型，本文提出的模型與算法仍能得到更加滿意的辨識結(jié)果。
　　再次，基于含有競爭算法的Kohonen自組織映射(SOM)神經(jīng)網(wǎng)絡(luò)，提出了一種對車牌圖像進行傾斜校正與字符分割的方法，將車牌中字符部分的像素點根據(jù)坐標(biāo)間的歐氏距離聚為七類，根據(jù)神經(jīng)元權(quán)值向量得到車牌的傾斜角度估計值，從而達(dá)到傾斜校正的目的。另外經(jīng)過預(yù)處理后，SOM算法得到的權(quán)值向量還可

7、以進一步利用最短距離法對車牌字符進行分割，實例說明了本算法的有效性。
　　最后，在SOM競爭算法的基礎(chǔ)上，結(jié)合徑向小波網(wǎng)絡(luò)，提出了一種自生成圓盤細(xì)胞分裂算法，并作為前一工作的后續(xù)，將其應(yīng)用于車牌字符的識別應(yīng)用中。該算法利用競爭機制將輸入模式映射到二維單位圓盤上而不是矩形域中的神經(jīng)元上，作為徑向小波神經(jīng)網(wǎng)絡(luò)的隱層神經(jīng)元，且不需事先給定規(guī)模，所需神經(jīng)元的個數(shù)與分布情況均可由網(wǎng)絡(luò)分類結(jié)果確定并由初始神經(jīng)元模仿細(xì)胞分裂的方式得到。其中用于