畢業(yè)論文——通信信號調制識別中的分類器設計

1、<p>　　畢 業(yè) 論 文（設 計）</p><p>　　題 目： 通信信號調制識別中的分類器設計 </p><p>　　英文題目：Classifier Design Recognition of Modulation </p><p>　　of Communication Signals</p><p>　　院 系：

2、 電子工程學院 </p><p>　　專 業(yè)： 通信工程 </p><p>　　姓 名： </p><p>　　年 級： </p><p>　　指導教師：

3、 </p><p><b>　　年 月</b></p><p><b>　　摘要</b></p><p>　　通信信號調制方式的識別是通信偵察的關鍵技術之一，是目前電子戰(zhàn)的重要研究課題。本文針對通信信號的調制識別問題，深入研究了信號的特征提取方法，在此基礎上探討了分類器的設計方法。 </p>

4、<p>　　調制信號識別普遍應用于信號區(qū)分、干擾識別等多種領域。其目的是在復雜環(huán)境和有噪聲干擾的條件下以及沒有先驗知識的情況下，通過對信號的接收進行處理，從而判斷出信號的調制方式。</p><p>　　神經網絡是一種模擬生物神經工作的方法，功能與人腦有某些相似之處，具有自學習和存儲功能，算法具有智能性，對于處理非線性問題很有用處，并且廣泛用于現(xiàn)在各個領域，例如做銷售量的非線性預測，計算機智能控制，圖

5、像的處理，優(yōu)化算法方面等等。在先輩們的基礎之下，本文更深層次的研究信號識別問題。具體工作內容如下：</p><p>　　概述了一些常見的調制信號，給出一些經常使用調制信號的數學原型，考察了常見數字調制信號的一些基本特性，如時域波形和頻譜圖。</p><p>　　對神經網絡分類器作整體的介紹。</p><p>　　研究了分類器的訓練算法，并對傳統(tǒng)的BP網絡的不足提出改

6、進的算法。</p><p>　　仿真實驗表明，將提取的時頻分析特征,通過改進的 BP 算法設計的神經網絡分類器對信號進行分類，實現(xiàn)了不單一的信號在較大信噪比變化范圍內的自動識別，其收斂速度計誤差識別都明顯改善，通過實驗取得期望的結果。</p><p>　　關鍵詞： 調制識別；時頻特征；神經網絡 </p><p>　　Classifier Design Recogni

7、tion of Modulation of Communication Signals</p><p><b>　　Abstract</b></p><p>　　Modulation recognition of communication signals is one of the key technologies in communication reconnai

8、ssance, is an important task in the field of electronic warfare. In this paper, aiming at the problem of communication signalmodulation recognition, in-depth study of the signal feature extraction method,on the basis of

9、the design method of classifier.</p><p>　　Modulation recognition is widely usedin signal distinction, interference identification and other fields. Its purpose is in a complex environment with noise conditio

10、ns, in the absence of a priori knowledge, are processed by the reception of the signals, then judge the modulation signal.</p><p>　　Neural network is a method of simulation of biological neural work, has som

11、e similarities with the human brain function, self learning and memory function,algorithm is intelligent, very useful for dealing with nonlinear problems, and fornow in various fields, such as nonlinear do sales forecast

12、ing, computer intelligent control, image processing, optimization algorithm and so on. Based on the predecessors, the research of signal recognition deeper problems. The specific work is as follows:</p><p>　

13、　1, an overview ofsome common signal modulation. Some frequently usedmodulation signal mathematical prototype, investigate some basic properties ofcommon digital modulation signals, such as time domain waveform and spect

14、rum.</p><p>　　2, the neural network classifier for the whole introduction.</p><p>　　3, the training algorithm classifier, and puts forward the improved algorithm of BP network to the. Simulation

15、 results show that the improved BP network, isfeasible in theory.</p><p>　　Keywords： Modulation recognition; frequency characteristic; neural network</p><p><b>　　目 錄</b>&

16、lt;/p><p>　　AbstractIII</p><p>　　第 1 章 緒 論1</p><p>　　1.1本文研究的背景及意義1</p><p>　　1.2 神經網絡的發(fā)展和現(xiàn)狀1</p><p>　　1.3 本文研究的主要內容2</p><p>　　第2 章 數字調制信號5

17、</p><p>　　2.1 調制的概念5</p><p>　　2.2信號的基本特征參數5</p><p>　　2.3 信號的調制模式6</p><p>　　2.3.1、振幅鍵控調制6</p><p>　　2.3.2、頻移鍵控調制7</p><p>　　2.3.3、相移鍵控調制8&l

18、t;/p><p>　　第三章 神經網絡分類器簡介10</p><p>　　3.1分類器設計概述10</p><p>　　3.2 MLP神經網絡分類器11</p><p>　　3.2.1 BP算法12</p><p>　　3.2.2改進型BP算法13</p><p>　　3.3神經網絡分類器

19、設計18</p><p>　　第四章 實驗的仿真21</p><p>　　4.1零中心瞬時特征提取21</p><p>　　4.2小波分析的特征提取26</p><p>　　4.3分形等特征的特征提取27</p><p>　　4.4 神經網絡分類器的仿真實驗28</p><p>&l

20、t;b>　　結 論33</b></p><p><b>　　參考文獻34</b></p><p><b>　　致謝35</b></p><p>　　第 1 章 緒 論</p><p>　　1.1本文研究的背景及意義</p><p>　　自從人類進入2

21、1世紀以來，科技的發(fā)展幾乎在以光速在前行。信息時代的到來，我們生活中漸漸地出現(xiàn)了各種網絡信號。當然，這也正在戰(zhàn)爭中適應的淋漓盡致。然而，在戰(zhàn)爭中戰(zhàn)場信息的傳遞主要依靠的是無線電通信，所以對無線電的研究成為現(xiàn)代科學研究的一個重點內容之一。電子戰(zhàn)是軍事戰(zhàn)爭中一個相當重要的方面，信號偵察就包含在它研究的內容之內。然而，信號調制類型的識別又是其中的一個關鍵環(huán)節(jié)，因此可以說如果知道了某個信號的調制基本類型，就可以估計出大概的調制參數。這就可以根據

22、實際情況制定出相應的偵察和反偵察策略。這樣就可以更有效的，更少的耗費資源對重要的信號參數進行干擾研究，甚至截獲，以達到目的為止。事實上，情況并不如理論上那么簡單。通信信號調制方式，因為環(huán)境的變化，各種噪聲孕育而生。在現(xiàn)實情況中，信號的調制變得向多樣化和復雜化的方向發(fā)展。盡管如此，為了區(qū)分不同性質的信號，我們還是要區(qū)別開其調制方式，這是由信號的特點決定的。調制信號識別已普遍的應用于許多方面，所以通信信號密度在不斷變高，調制方式也不斷多樣化

23、起來。如果不知道任何的先驗知識的話，對于我們來說，信號的分類識別是非常難解決的。正因為此，這項研究必定將成</p><p>　　目前通信信號從識別算法來看，主要分為1、決策論方法；2、統(tǒng)計模式識別方法。如何有效的監(jiān)視識別甚至提取目標的通信信號，是我們一直研究的重點內容。這不僅是在軍事方面，在民用領域也是十分重要的研宄課題。對信號的研究，調制識別在信號研究中是一個相當主要的內容。因為只要知道信號的類型，就可以初步的

24、估算出目標信號的基本類型，在沒有任何先驗知識的情況下，對信號的識別提取就顯得相當重要了。這也就是現(xiàn)在研究的重點，也是難點。</p><p>　　1.2 神經網絡的發(fā)展和現(xiàn)狀 </p><p>　　最早的神經網絡是傳統(tǒng)的人工神經網絡，它主要依靠人工來進行識別調制的。人工參與的調制技術，或多或少都會參雜工作人員自己的主觀意識，對結果的觀察誤差大，精準度低，所以才會出現(xiàn)對人工神經網絡的改進動力！

25、</p><p>　　人工神經網絡的研究開始于上世紀中期，和一般的歷史事物發(fā)展規(guī)律一樣，都經歷了起始、蕭條和興盛。神經網絡是在數學生物物理學會期刊中發(fā)表的，這表明，神經網絡的發(fā)現(xiàn)的靈感起源于對人類大腦的研究。因此，它們的特點是非常相似的，如：1，根據模型的神經元興奮，信息是分散在網絡中的秩序，和存儲。2、利用神經元之間的相互作用來完成的信息處理。人工神經網絡在80年代中期得到了飛速的發(fā)展。1982年美國加州州立理

26、工學院物理學家Hopfield教授提出了Hopfield人工神經網絡模型，他將能量函數的概念引入人工神經網絡，并給出了穩(wěn)定性的判據，開拓了人工神經網絡用于聯(lián)想記憶和優(yōu)化計算的新途徑。 人工神經網絡模擬人類部分形象思維的能力，是模擬人工智能的一條途徑。特別是可以利用人工神經網絡解決人工智能研究中所遇到的一些難題。人工神經網絡理論的應用已經滲透到多個領域，在計算機視覺、模式識別、智能控制、非線性優(yōu)化、自適應濾波信息處理、機器人等方

27、面取得了可喜的進展。</p><p>　　近幾年來 ，人們又將神經網絡技術與其他網絡技術相結合，比如小波變換技術等，并因此提出了很多新型的識別方法，使得神經網絡在技術上更進一步，更加的完善。盡管通信信號調制識別方法有各種各樣，但在現(xiàn)實工作中依然會出現(xiàn)各類問題。處理好神經網絡的關鍵問題之一便是模式處理。下面簡單介紹一下什么是信號的調制識別。</p><p>　　雖然神經網絡的發(fā)展非常艱難，但

28、是也有著非常大的進展。就現(xiàn)在的研究結果而言，神經網絡方法具有良好的容錯能力、自學習能力及分類能力等。</p><p>　　神經網絡有多種分類方式，例如，按網絡性能可分為連續(xù)型與離散型網絡，確定型與隨機型網絡:按網絡拓撲結構可分為前向神經網絡與反饋神經網絡。本章主要簡介前向神經網絡。</p><p>　　前向神經網絡是數據挖掘中廣為應用的一種網絡，其原理或算法也是很多神經網絡模型的基礎。BP

29、神經網絡是實現(xiàn)從輸入到輸出的任意的非線性映射，是一種按照誤差逆?zhèn)鞑ニ惴ㄓ柧毜亩鄬忧梆伨W絡。</p><p>　　徑向基函數神經網絡也是一種兩層前向型神經網絡。它包含一個具有徑向基函數神經元的隱層和一個具有線性神經元的輸出層。</p><p>　　Hopfield神經網絡是反饋網絡的代表Hopfield網絡的原型是一個非線性動力學系統(tǒng)，其穩(wěn)定狀態(tài)的分析比起前向神經網絡要復雜得多。目前，已經在

30、聯(lián)想記憶和優(yōu)化計算中得到成功應用。</p><p>　　模擬退火算法是為解決優(yōu)化計算中局部極小問題提出的。Baltzmann機是具有隨機輸出值單元的隨機神經網絡，串行的Baltzmann機可以看作是對二次組合優(yōu)化問題的模擬退火算法的具體實現(xiàn)，同時它還可以模擬外界的概率分布，實現(xiàn)概率意義上的聯(lián)想記憶。</p><p>　　自組織競爭型神經網絡的特點是能識別環(huán)境的特征并自動聚類。自組織竟爭型神

31、經網絡已成功應用于特征抽取和大規(guī)模數據處理。</p><p>　　當然還有其他類型的神經網絡，這里就不再一一贅述。 </p><p>　　1.3 本文研究的主要內容 </p><p>　　本文在前人的研究基礎上深入研究了通信信號識別調制問題。</p><p>　　首先介紹了一下2ASK、2PSK、2FSK、4ASK、4PSK、4FSK共6種數

32、字信號的一些基本特征，給出了他們基本的波形圖，如時域和頻域等。給出了他們的數學模型，及時域表達式等。然后根據這些特征對比，使得分類后抽取的特征是否與這相符合，然后結合改進的BP網絡，對其信號的提取和分類器的設計的仿真結果進行驗證。但是問題就在于，在較復雜環(huán)境下，要提取通信信號更為有用的特征，就需要使用其它的方法對不同信號進行分類。這就是特征提取過程。特征提取部分主要有了時頻特征、小波分析特征以及分形等組成的特征集，本文主要研究時頻特征的

33、提取，通過繪制特征仿真圖，一目了然的考察了時頻特征的類內聚集程度和類間分離程度。仿真實驗應用兩種算法對不同調制類型的通信信號進行特征提取。</p><p>　　近幾年來 ，人們又將神經網絡技術、小波變換技術 、高階譜分析技術、信息論技術與調制識別技術相結合，提出了很多新型調制識別方法。通信信號調制識別方法雖 然多種多樣，但調制識別問題其實是一種典型的模式識別問題，一般過程如圖 1-1 所示： </p>

34、<p>　　圖 1-1 一般調制識別方法的框架結構</p><p>　　調制識別方法的基本框架包括三部分： 信號預處理部分 、特征提取部分和分類器設計部分。信號預處理部分為后續(xù)處理提供合適的數據。下面分別介紹三部分的額作用。</p><p>　　1.信號預處理部分：它的任務一般包括頻率下變頻、同相和正交分量分解、載頻估計和載頻分量的消除等。在多信道多發(fā)射源的環(huán)境中，信號預處

35、理部分應能有效地隔離各個信號。</p><p>　　2.特征提取部分：從數據中提取信號的時域特征或變換域特征。 時域特征包括信號的瞬時幅度、瞬時相位或瞬時頻率的直方圖或其它統(tǒng)計參數。變換域特征包括功率譜、譜相關函數、時頻分布及其它統(tǒng)計參數。對于變換域特征，采用 FFT 方法就能很好獲取，而幅度、相位和頻率等時域特征主要由 Hilbert 變換法，同相正交(I-Q)分量法和過零檢測法等獲得。</p>

36、<p>　　3.分類識別部分：即選擇和確定合適的判決規(guī)則和分類器結構方面，主要采用梯形結構的分類器和神經網絡結構的分類器。梯形分類器結構相對簡單，但需要事先確定判決門限，自適應性差，識別效率也相對不高。神經網絡方法具有良好的容錯能力、自學習能力及分類能力，但其是基于經驗風險最小化準則的，存在容易陷入局部極小點、過擬合現(xiàn)象及災難維數的問題。 </p><p>　　分類器設計部分我們重點研究的部分。我們對自

37、適應能力很強的神經網絡分類器 的設計方法，從時頻特征提取的方面下手，對于算法的選取和應用采用最合適折中的原則進行。然后從理論上驗證一下關于神經網絡分類器的優(yōu)越性。在進行仿真實驗時，就要先對信號的時頻特征進行分析。在大樣本情況下，采用改進的BP 網絡分類器進行研究，進行對神經網絡分類器的性能的測試和觀察。仿真研究了在不同信噪比情況下神經網絡分類器的性能。</p><p>　　第2 章 數字調制信號</p>

38、;<p>　　2.1 調制的概念 </p><p>　　調制是用音頻信號將高頻載波用調幅或調頻的方式進行調制，變?yōu)槟苓h距離發(fā)射傳播的被調制高頻無線電波。無線電接收機經選頻收到已調制載波信號后多級放大后再進行解調。解調分為檢波(調幅)和鑒相(調頻)將音頻信號從載波中取出，再濾除高頻載波，經音頻放大后得到原音頻信號推動揚聲器前面的過程是調制。后面的過程是去調制，也稱解調。調制其實就是對信號源發(fā)出的信息進

39、行一系列方式的處理，使它能夠在所要求的信道上傳輸的過程。</p><p>　　一般來說，我們在通信當中，傳輸的信號，比如語音，頻率都是幾百Hz到幾百kHz的，這種信號的頻率較低。如果單純把這種信號，使用手機或者廣播電臺發(fā)送出去，那么需要的天線就長達一百多公里。</p><p>　　另外不同人的通話信號也無法互相區(qū)分。為了避免這種情況，在溝通中，有用信號的頻率，加載到高頻載波，然后送出。這樣

40、，經過手機天線，或者無線電廣播站發(fā)出去的信號，就是900MHz（手機GSM）的高頻，或者100MHz左右（FM調頻廣播）了。前面幾行說的是調制是干啥的呢，顧名思義，去調制就是剛才那一系列的逆過程。也就是說，高頻率的信號，提取有用的成分。從高頻信號里進行檢波，提取出我們有用的低頻信號（如語音等），這個過程就叫做解調，或者去調制。</p><p>　　數字信號調制原理大致相同。</p><p>

41、;　　2.2信號的基本特征參數 </p><p>　　調制信號可以表示為s(t)：</p><p><b>　?。?- 1）</b></p><p>　　其中，為載波頻率，g(t)為已調信號的復包絡。它是已調信號所承載的，也就是調制信號m(t)的函數，即</p><p><b>　　(2-2)</b>

42、;</p><p>　　我們定義信號的瞬時幅度為 A(t)，即 </p><p><b>　　(2-3)</b></p><p>　　非線性相位?(t) ： </p><p><b>　　(2-4) </b></p><p>　　瞬時相位導數可以計算瞬時頻率：</p&

43、gt;<p><b>　　(2-5) </b></p><p>　　2.3 信號的調制模式 </p><p>　　2.3.1、振幅鍵控調制</p><p>　　1）二進制振幅鍵控（2ASK）</p><p>　　一個二進制的振幅鍵控信號能夠用一 個單極性脈沖與一個正弦波相乘來表示。即： </p>

44、;<p><b>　　(2-6) </b></p><p>　　2ASK 信號的時域波形及其頻譜如圖 2-5 所示，圖中，載波頻率為 10kHz, 采樣頻率為80kHz，采樣點數為400，調制信號的符號率2kbps。</p><p>　　圖 2-1 2ASK 信號的時域波形</p><p>　　2）四進制振幅鍵控（4ASK）<

45、;/p><p>　　4ASK信號比2ASK信號的信息傳輸速率更高。在相同的碼 元傳輸速率下，4ASK信號和2ASK的帶寬相同，4ASK的信道利用率比2ASK 高得多。</p><p>　　在二進制數字調制中，每個符號只能表示“0”或者“1”，但在許多實際的數字傳輸中，系統(tǒng)往往采用更多的是多進制的調制方式。</p><p>　　4電平調制信號可表示為： </p>

46、;<p><b>　　(2-9) </b></p><p>　　式中， g(t) 是持續(xù)時間為Ts 的矩形脈沖，an為信源給出的4進制符號0,1,..., 。4ASK信號的時域波形及其頻譜如圖2-3所示，圖中，載波頻率為 10kHz,取樣頻率為 80kHz，取樣點數為 400，調制信號碼元速率為 2kbps。 </p><p>　　圖 2-2 4ASK

47、信號的時域波形及其頻譜圖</p><p>　　2.3.2、頻移鍵控調制 </p><p>　　1）二進制移頻鍵控(2FSK)</p><p>　　在二進制頻移鍵控中，載波頻率隨著調制信號1或0的變化而變。由于這樣，規(guī)定:載波頻率 f1 通常用1來表示，載波頻率 f2 用0來表示。</p><p>　　二進制頻移鍵控已調信號的時域表達式為：&l

48、t;/p><p><b>　　(2-7) </b></p><p>　　這里? 1??2??f1, ?2 ??2??f2 ,an 是反碼， Ts 為碼元周期。式中， g(t) 脈寬為 Ts ，屬于單個矩形脈沖。</p><p>　　2FSK 信號的基本特征如圖 2-6所示，圖中，載波頻率為 10kHz,取樣</p><p>

49、;　　頻率為80kHz，采樣點數為400，調制信號的符號率2kbps，2FSK信號的頻率偏移。</p><p>　　圖 2-3 2FSK 信號的基本特征</p><p>　　2）四進制移頻鍵控(4FSK)</p><p>　　MFSK 信號的數學表達式一般可以寫成： </p><p><b>　　(2-10) </b>&

50、lt;/p><p>　　式 中， (m??0,1,...,M -1) 是與對應的載波角頻率偏移。</p><p>　　在實際使用中，通常有： = = …= = 。這樣，上式可以重寫為：</p><p><b>　　(2-11)</b></p><p>　　式 中， g(t) 是 持 續(xù) 時 間 為 Ts 的矩 形 脈 沖

51、， an 為 信 源 給出 的 M 進 制 符 號0,1,..., M ?1。 </p><p>　　因此，只要把、看成調制頻率，就可以利用調頻的方法實現(xiàn) MFSK 調制了。 </p><p>　　4FSK 信號的時域波形及其頻譜如圖2-5 所示，圖中，載波頻率為 10kHz,取樣頻率為80kHz，取樣點數為400，調制信號碼元速率為2kbps，4FSK信號的頻偏為7.5kHz。 &

52、lt;/p><p>　　圖 2-4 4FSK 信號的時域波形及其頻譜圖 </p><p>　　2.3.3、相移鍵控調制 </p><p>　　1）二進制相移鍵控(2PSK)</p><p>　　已調信號的時域表達式為： </p><p><b>　　(2-8) </b></p><

53、p>　　波形和2PSK信號的頻譜如圖2-7，如圖所示，10kHz的載波頻率，該采樣頻率為80kHz，采樣點數為400，調制信號的符號率2kbps。</p><p>　　圖 2-5 2PSK 信號的基本特征</p><p>　　2）四進制相移鍵控(4PSK)</p><p>　　MPSK 信號由 于其較強 的抗干擾能力是實際通信 (尤其是軍事通信)中用的較多的一

54、類信號，例如擴頻通信信號、GPS信號常采用MPSK 調制。它的時域表達式如下：</p><p><b>　　(2-12)</b></p><p><b>　　其中?定義如下： </b></p><p>　　， (2-13)</p><p><b>

55、　　式中，</b></p><p>　　4PSK 信號的時域波形及其頻譜如圖 2-6 所示，圖中，載波頻率為 10kHz,取</p><p>　　樣頻率為 80kHz，取樣點數為 400，調制信號碼元速率為 2kbps。 </p><p>　　圖 2-6 4PSK 信號的時域波形及其頻譜圖 </p><p>　　第三章 神經網

56、絡分類器簡介</p><p>　　3.1分類器設計概述</p><p>　　分類器設計是繼特征提取后的又一個關鍵步驟。在實踐中，根據特定的標準，具體的工作信號分類器是一種特定的轉換模式，如一個給定的，表示的特征向量作為輸入模式的一個適當的模型類。因此，分類器的模式分類能力是決定一個具體模式識別方法性能的又一個重要因素。也因此研究高性能的分類算法就成了信號識別研究的一個主要內容。目前，通信信

57、號識別，參數統(tǒng)計決策理論和基于常用的非參數的分類算法仍然是。伴隨著好多年的分析研究，一步步的發(fā)展過程中，以統(tǒng)計決策理論為基礎的傳統(tǒng)分類算法在理論得到了廣泛的應用。其中最顯著的應用就是包含信號識別的工程中。但現(xiàn)代通信的環(huán)境日益復雜多變，傳統(tǒng)分類器在應用過程中存在一下幾個問題：</p><p>　　第一步，需要我們解決的問題是，在不同的識別算法中使用一樣的特征參數后，導致的結果卻是在相同的信噪比下識別的正確率幾乎全然

58、不相同。</p><p>　　第二步，在進行節(jié)點判決時，應在每個判決節(jié)點處同時采用相同的特征參數，這樣產生的結果，得出的結論是，識別的成功率不只與特征量使用的先后順序有關，而且很大程度上取決于每個特征參數的單次正確判決概率。</p><p>　　最后，有一個閾值相應的設置在所需要的每個特性。正確識別的選擇在很大程度上取決于閾值。這樣導致的結果就是傳統(tǒng)分類器很難獲得優(yōu)質的識別性能，主要反映在

59、識別率低、穩(wěn)健性差等方面。相比之下，神經網絡分類器比傳統(tǒng)的基于決策理論的分類器具有很大的優(yōu)勢，因為其是作為一種先進的自適應性、非參數與非線性分類器而經常出現(xiàn)的。由于神經網絡分類器每次都使用全部特征量，這樣得到的結論：特征整體性能嚴重影響系統(tǒng)的識別成功率。神經網絡的自學習能力，閾值自動選取，可以獲得較高的識別率。</p><p>　　神經網絡分類器作為一種自適應性很強的分類器與傳統(tǒng)的基于決策理論的分類器相比具有明顯

60、的優(yōu)勢。但是神經網絡分類器需要不可避免地存在過學習、容易陷入局部極小點和維數災難等問題。神經網絡拓撲結構的設計、神經網絡的訓練以及性能測試，是神經網絡分類器的設計過程的三個步驟。設計過程包含的整體內容：首先選擇神經網絡模型，表示分類器的輸入和輸出，進行神經網絡拓撲結構和訓練算法的設計，之后就開始實行訓練，最后一步對其性能進行測試。在通信信號調制類型識別中的應用，提供了一個先驗信息，這些信息都是一些檢測到的信號類型，如已知的數據類型。正因

61、為如此，一般選取的分類器都是具有監(jiān)督訓練的神經網絡模型，其中最具典型的兩種模型是多層感知器網絡與 RBF 網絡。由于這兩種網絡的理論和算法都相當的先進，因此它在很多領域都被廣泛的應用，而且得到了很好的驗證。</p><p>　　如何更好地學習神經網絡？這是一個很嚴肅的問題。人們常常在環(huán)境中學習，在學習中提高自身性能，要適應這個社會，就必須時時刻刻都學習，這不只是人類應學會具備的特征，而且是神經網絡最具有意義的特性

62、。神經網絡的學習方法主要是以下三種。</p><p>　　監(jiān)督學習方法，先找一些正確的輸入和輸出數據，輸入的數據加載到輸入端，然后將實際輸出和網絡的預期結果，其誤差。然而如何使得誤差盡可能變得最小，就需要依據誤差修改連接權值，使其變化的方向變得正確。無監(jiān)督學習就是在初始狀態(tài)下，輸入數據，將連接權值都設置為一個小正數，接著進行反復加載，并刺激網絡，最后按權值矩陣產生出相應的輸出。強化學習函數之間的監(jiān)督和無監(jiān)督學習，

63、責任的外部環(huán)境進行評價的體系，通過加強這些獎勵措施，改善了系統(tǒng)的性能。</p><p>　　神經網絡的學習規(guī)則有：</p><p>　　1、最先Hebb學習規(guī)則。</p><p>　　2、用于模式分類的記憶學習法。</p><p>　　3、糾錯的學習目的是通過突觸權重的反復調整，使成本函數最小的火，然后得到最穩(wěn)定的系統(tǒng)。</p>

64、<p>　　4、競爭學習包含一個神經集合和一個機制，這其中限制了每個神經元的能量。 5、隨機學習。由統(tǒng)計力學思想而來。</p><p>　　神經網絡應用前景。神經網絡所適用的應用領域與網絡本身結構和功能有關，特別是與其具有的計算能力有關，神經網絡至少有以下的計算能力：</p><p>　　1)數學的近似映射。</p><p>　

65、　2)概率密度函數的估計。</p><p>　　3)從二進制數據基中提取相關的知識。</p><p>　　4)形成拓撲連續(xù)及統(tǒng)計意義上的同構映射。</p><p>　　5)最近相鄰模式分類。</p><p><b>　　6)數據聚集。</b></p><p>　　7)最優(yōu)化問題的計算。</p

66、><p>　　不同的神經網絡模型的計算能力是不同的, 它們各具有上述能力的一種或幾種。上面講述的網絡的能力只是一個抽象的結論。神經網絡的應用就是把上述的能力應用到解決實際的工程領域。人工神經網絡模擬了人類神經元活動原理, 具有自學習、聯(lián)想、對比、推理和概括能力, 并且, 具有能夠逼近任意的非線性函數、并行化處理信息、容錯能力強等諸多優(yōu)點。</p><p>　　3.2 MLP神經網絡分類器<

67、;/p><p>　　MLP是最主要的神經網絡模型之一。要進行MLP神經網絡的訓練，就必須要用到反向傳播的學習算法，因而也被稱為BP網絡。BP神經網絡是一種多層前饋神經網絡，實現(xiàn)從輸入到輸出的任意的非線性映射，S變換函數必須使用的神經元，輸出是連續(xù)的0至1。樣本的輸入到輸出的非線性優(yōu)化問題的算法的本質，用優(yōu)化的方法，并利用梯度下降算法，使網絡的實際輸出與預計輸出之間的MSE達到最小，或者達到實現(xiàn)預定的，上面的一系列工作

68、就是MLP神經網絡的訓練任務。</p><p>　　MLP網絡的主要應用有：</p><p>　　函數逼近：輸入和相應的輸出向量來訓練網絡，使一個函數的逼近。</p><p>　　模式識別：用特定的的輸出矢量聯(lián)系輸入矢量。</p><p>　　分類：用適合的方式，合理分類輸入矢量。</p><p>　　數據壓縮：減少輸

69、出維數，便于傳輸或存儲。</p><p>　　圖3.1典型MLP神經網絡的拓撲結構</p><p>　　節(jié)點方程的無記憶性是靜態(tài)網絡MLP最為鮮明的特征，網絡的輸出跟過去、將來與輸出自身沒關系，僅僅是當前輸入輸出的函數。MLP網絡可以完成從m維樣 本空間到n維樣本空間 的映射。在分類問題中，lippmin證明一二層MLP網絡可以形成任意邊界的決定。 隨后又有人證明 兩層MLP網絡可以形成任

70、意非線 性決策邊界。同樣 可以證明MLP網可以完成對任 意非線性映射的近似。</p><p>　　3.2.1 BP算法</p><p>　　20世紀80年代， Rumelhart和麥克利蘭科學家提出的BP（Back Propagation）網絡，這是一個多層前饋神經網絡，并按誤差逆?zhèn)鞑ニ惴ㄟM行訓練，在當代得到了廣泛的應用。BP網絡是一種數學方程，沒有事先的描述這種映射關系的需要，可以學習和

71、存儲大量的輸入-輸出模型映射。它使用最速下降規(guī)則的學習方法，使網絡和最小二乘誤差反向傳播，需要，不斷調整網絡的權值和閾值。輸入層，隱層（輸入）（隱藏層）和輸出層（輸出層）屬于BP神經網絡模型的拓撲結構。</p><p>　　BP算法的步驟可歸納如下：</p><p><b>　　1)初始化。</b></p><p>　　2)每個輸入樣本應該這樣

72、處理：</p><p>　　前向計算時：第L層的j單元處理如下：</p><p><b>　　(3-1)</b></p><p><b>　　(3-2)</b></p><p><b>　　(3-3)</b></p><p>　　若神 經 元j屬于輸入層

73、（即 L=1），則有：</p><p><b>　　(3-4)</b></p><p>　　若j屬 于輸 出 層神 經 元（即L＝L），有：</p><p>　　且 (3-5) </p><p><b>　　反向計算： </b><

74、;/p><p><b>　　對輸出單元：</b></p><p><b>　　(3-6)</b></p><p><b>　　對隱層單元：</b></p><p><b>　　(3-7)</b></p><p><b>　　修

75、正權值： </b></p><p><b>　　(3-8)</b></p><p>　　3）進入新的樣品，跳到2步，循環(huán)往復，直到達到最小均方誤差。</p><p>　　事實上，MLP網絡可以完成分類任務很好，但由于網絡（BP）學習算法具有一定的局限性， BP網絡存在以下問題：</p><p>　　(1)從數

76、學上看，由于是非線性優(yōu)化問題，從而無法預測的存在局部極小值問題。</p><p>　　(2)學習速率固定，網絡收斂速率慢，需要訓練時間長。</p><p>　　(3)網絡的隱含層節(jié)點個數選取沒有成熟理論指導，一般根據經驗和反復試驗確定。</p><p>　　(4)網絡存在不穩(wěn)定的學習和記憶。</p><p>　　(5)學習因子和記憶因子沒有一

77、種選擇規(guī)則，過大過小都會對其訓練的過程產生影響。</p><p>　　3.2.2改進型BP算法</p><p>　　為了克服傳統(tǒng)BP算法的問題，科學家們研究出幾種改進型的BP算法。他們對其進行的改進工作有：</p><p>　　提高學習速率的方法研究。</p><p>　　如何提高網絡訓練精度，需要兩階導數信息的目標函數的方法。</p&

78、gt;<p>　　下面介紹一下具體的算法。</p><p>　?。?）強適應行BP算法</p><p>　　強適應性BP算法的目的就是為了解決的問題很簡單。事實上，在訓練中，多層BP網絡的神經元網絡的訓練價值，消除梯度模式的影響。</p><p>　　因為多層的BP神經網絡，我們一般都會使用S傳遞 函數，這一比較成熟的理論。輸入輸出映射無限到有限的功能

79、的主要特性，當輸入是非常大或非常小，功能接近0。的權值和閾值的影響的梯度變化的方向，這是該算法的最鮮明的特征，但梯度幅值，但對他們沒有影響。這里是僅僅是通過單獨的參數設置來更新網絡的權值和閾值。所以—般情況下經常使用它的缺省參數值。較強的適應負梯度算法的訓練速度比BP算法和標準”，前者是更快，而不存儲網絡的權值和閾值的變化，使得存儲器要求是非常小的。本文就是采取這種方法進行本實驗研究。</p><p><b

80、>　　具體流程圖如下： </b></p><p>　　圖3.2 改進型BP網絡訓練流程圖</p><p><b>　　(2)L-M算法</b></p><p>　　最小平方誤差總和的一個特殊算法L-M方法。誤差平 方和 為：</p><p><b>　　(3-9)</b></

81、p><p>　　其中，P是第一P樣品；S以作為載體的元素。假設當前為0，和新的</p><p>　　位置移動，如果移動量很小，則可將展成一階泰勒級數</p><p><b>　　（3-10）</b></p><p>　　于是誤差 函數式 可以改寫成</p><p><b>　?。?-11）&

82、lt;/b></p><p>　　求導以 使Ｅ最小，可得： </p><p><b>　?。?-12）</b></p><p>　　（3）可變學習速度的BP算法</p><p>　　它試圖在較平坦的曲面提高學習速度，而在斜率增大時減小學習速度。它的規(guī)則如下：</p><p>　　1)如果誤差

83、平方(在整個訓練集上)在權值更新后增加了百分數z (典型值為1%至5%)，則取消權值更新，學習速度乘上一個因子 (1 > r > 0)，并且動量系數 g 置為 0。</p><p>　　2)如果誤差平方在權值更新后減少，則接受權值更新，并且學習速度乘上一個因子 h>1，如果動量系數 g 先前被置為0，則恢復到先前的值。</p><p>　　3)如果誤差平方的增加少于z，則

84、接受權值更新，但是學習速度和動量系數不變。</p><p>　　改進的BP算法也有些缺點：需要設置一些額外的參數，并且算法性能對參數變化很敏感，參數的選擇還和問題有關。容易使一些能收斂的數據變得不可收斂。但是在實際情況中我們通常是折中的方法選取，任何方法都有兩面性，這也是事物發(fā)展的規(guī)律。 </p><p>　　目前還有許多的改進算法，遺傳算法（GA）和模擬退火算法等多種優(yōu)化方法

85、用于BP算法的改進(這些方法從原理上講可通過調整某些參數求得全局極小點)，但在應用中，這些參數的調整往往因問題不同而異，較難求得全局極小點。這些方法中應用最廣的是增加了沖量（動量）項的改進BP算法。</p><p><b>　　BP網絡性能：</b></p><p>　　1)非線性映射能力 </p><p>　　能學習和存貯大量輸入-輸出模式映

86、射關系，而無需事先了解描述這種映射關系的數學方程。只要能提供足夠多的樣本模式對供網絡進行學習訓練，它便能完成由n維輸入空間到m維輸出空間的非線性映射。</p><p><b>　　2)泛化能力</b></p><p>　　當向網絡輸入訓練時未曾見過的非樣本數據時，網絡也能完成由輸入空間向輸出空間的正確映射。這種能力稱為泛化能力。</p><p>

87、;<b>　　3)容錯能力</b></p><p>　　輸入樣本中帶有較大的誤差甚至個別錯誤對網絡的輸入輸出規(guī)律影響很小。</p><p>　　除了MLP神經網絡分類器外，還有另一個經常用到的分類器--徑向基神經網絡分類器。這采用的是一種兩層前向型神經網絡，包含隱含層和線性神經元的輸出層。</p><p>　　此網絡最常用的高斯基函數為：<

88、;/p><p>　　，j=1，2，……，L （3-13）</p><p>　　式中，第j個隱層節(jié)點的輸出用表示，輸入樣本，分別用Cj，，L來表示高斯函數參數。</p><p>　　RBF網絡的輸出為：</p><p><b>　?。?-14）</b></p><p>　　隱層

89、節(jié)點與輸出節(jié)點的權值在式中用來表示。</p><p>　　圖3.3 RBF的拓撲結構</p><p>　　由上圖可以看出，徑向基網絡函數可以這樣理解：</p><p>　　根據函數逼近特點，所有函數都能用一組基函數的加權和來表示。</p><p>　　根據模式識別特點，將低維空間映射到高維，使得它能夠在高維空間可分。</p>&

90、lt;p>　　RBF網絡的訓練過程分為如下階段：</p><p>　　首先，確定Cj值和歸一化常數的隱層節(jié)點科斯基中心功能，它必須建立在所有的輸入樣本。</p><p>　　第二，要求出連接隱含層與輸出層的權值，就需要先確定隱含層參數，然后根據樣本，使用最小二乘法。特殊情況下，還可以在完成后面的學習后，依據樣本信息，一起進行隱含層與輸出層參數的改正，使網絡的準確度及推廣能力得到深層提

91、高。作為分類器使用時，從這個意義上講 ，與MLP網絡分類器一樣，RBF網絡分類器 是經典的貝葉斯分 類器的又一種具體 實現(xiàn)形式。</p><p>　　RBF網絡的學習算法</p><p>　　RBF具有許多學習算法。其學習算法包含很多主要參數，據此可以把RBF網絡選取算法可以是：</p><p>　　1、自組織選取中心法。</p><p>&

92、lt;b>　　2、梯度訓練法。</b></p><p><b>　　3、OLS。</b></p><p>　　在算法的選取中，大多數都是將問題分為兩部分：隱含層的學習和輸出層的學習。隱含層的學習通常由無導師式學習來完成，比如：聚類的方法。而輸出層的學習則需要在導師的指導下才能完成。</p><p><b>　?。?）

93、隱含層學習。</b></p><p>　　隱含層的學習一般情況下，大都采用的是聚類的方法。聚類的概念是在模式識別中提出的，所以說，它也是—種基本的信號分類方法。對不同的圖像分類之間的差異分析，基于距離函數的聚類分析。然而，這種方法是否有效，取決于特征向量的分布格局。聚類分析發(fā)現(xiàn)極值的成功準則函數優(yōu)化問題。</p><p>　　K次均值算法是一種簡單、運用較多的聚類方法。它可以使

94、聚類畝指數最小，這里利用簇，每個樣本點對之間距離的平方的中心，和最小化算法，如下：</p><p>　　1)初始化聚類中心,設為第一次輸入的樣本。</p><p><b>　　2)循環(huán)開始。</b></p><p>　　3) 所有的樣品按照最小距離聚類，根據這些原則，我是0，0為群集組為J集群。</p><p>　　4)

95、計算各類聚類中心的樣本平均</p><p><b>　?。?-15）</b></p><p>　　式中M．為該樣本集的個數。</p><p>　　5)比較各聚類中心是否有變化，若有變化，轉到2)；若沒變化，結束。</p><p>　　在完成對樣本各聚類后，大體上就可以計算高 斯核的規(guī)一化參數，高斯半徑是</p>

96、;<p>　　，該參數表示對每個節(jié)點輸入數據的度量，即</p><p><b>　?。?-16）</b></p><p>　　(2)輸出層的學習 </p><p>　　LMS算法通常能夠完成對RBF網絡輸出層的訓練，這種算法用矩陣記號可表示為：</p><p><b>　?。?-17）</b

97、></p><p><b>　?。?-18）</b></p><p>　　其中e是誤差向量，b是偏置值向量，p是輸入向量，是學習速率。</p><p>　　終止條件可以選擇使，最?。?lt;/p><p><b>　　（3-19）</b></p><p>　　通常A=0.99

98、， 這樣就完成了RBF 網絡的訓練。</p><p>　　RBF網 絡和BP網絡就理論而言，他們都可以做到以近似 任何的連續(xù)非線性 函數。但是，他們的主要區(qū)別是各自使用不同的作用函數。實際情況下，Sigmoid函數通常被使用在BP網絡中的隱層中，而在RBF網絡中，基函數的輸入只局限在一局部范圍內。</p><p>　　此網絡在實現(xiàn)過程中也有著自己的缺點：：</p><p

99、>　　1、在分析并解釋自己的推理過程與依據的過程中能力不足。</p><p>　　2、不能向用戶提出必要的詢問，數據不充分時，神經網絡無法進行工作。</p><p>　　3、把一切問題特征都看成數字。</p><p>　　4、理論和學習算法還不是很完善。</p><p>　　5、在進行非線性系統(tǒng)建模時，需要處理的主要問題是樣本數據的選擇

100、，然而實際上，要得到系統(tǒng)信息，就只能通過分析系統(tǒng)運行中的操作數據等。</p><p>　　RBP網絡在本文不涉及，在此僅做簡單介紹。當然，除此之外還有其他類型的網絡分類器，如反饋神經網絡、自組織神經網絡、模糊圣經網絡等等。</p><p>　　3.3神經網絡分類器設計</p><p>　　本文介紹的神經網絡，基于零中心瞬時特征的MLP神經網絡調制識別分類器設計是本文

101、的重點研究內容。</p><p>　　基于零中心瞬時特征的MLP神經網絡調制結構如圖 3.4所示。該神經網絡分為輸入層 、輸出層和中間層三層結構。對信號的特征參數的識別號碼和識別的信號空間的維數常常影響到輸入節(jié)點和輸出層數。</p><p>　　圖3.4 基于零中心瞬時特征的MLP網絡調制識別原理結構</p><p>　　對于這特征提取以及結構確定下來后，神經網絡分

102、類器基本成型。接下來的工作就是算法設計。神經網絡算法分三個階段來實現(xiàn)：</p><p>　　1、預處理階段：預處理的主要工作是從信號中提取特征，各種特征的算法前面章節(jié)中已做詳細闡述。對不同調制了人工神經網絡的訓練和學習信號為基礎的培訓和學習階段的關鍵任務，從而得到計算節(jié)點的加權向量。</p><p>　　2、訓練和學習階段，</p><p><b>　　3

103、、測試階段。</b></p><p>　　加權矢量W1，W2及其偏移量B1，B2可以通過求解使下列誤差和函數最小的優(yōu)化問題而得到：</p><p><b>　?。?-20）</b></p><p><b>　　式中：</b></p><p><b>　?。?-21）</b

104、></p><p>　?。?-22） </p><p><b>　?。?-23）</b></p><p><b>　?。?-50）</b></p>

105、<p>　　I為待識別信號空間的維數（輸出層節(jié)點數）：</p><p>　　J為用于訓練的信號樣本數：</p><p>　　T為實際的目標矢量 矩陣（Ｉ×Ｊ階）：</p><p>　　Pin為輸入的信號樣本矩陣（M×N階）；</p><p>　　M為輸入的特征參數個數（輸入層節(jié)點數）；</p>&

106、lt;p>　　Wt為輸入層到中間層的 加權矩陣（N ×M階）；</p><p>　　W2為中間層到輸出層的加權矩陣（I×N階）；</p><p>　　B1,B2為加權偏移量；</p><p><b>　　N為中間層節(jié)點數。</b></p><p>　　通過權值訓練和學習（優(yōu)化），不斷地調整權值W

107、1,W2及B1，B2，使得目標矩陣丁與神經網絡輸出矩陣以的空 間距離最小。通過反向傳播學習算法（ＢＰ算法），其學習過程如下：</p><p>　　1） 隨意選取初始權值矩陣為W1（0）,W2（0），選取初始偏移矩陣為B1（0），B2（0）；</p><p>　　2）報據輸入的訓練樣本圪計算Ａ1，Ａ2；</p><p>　　3）根據目標矩陣T和誤差和函數公式計算誤差函

108、數E；</p><p>　　4）當給定誤 差容限低于Ｅ時， 就依據下式進行權值的調整</p><p><b>　　（3-24）</b></p><p><b>　?。?-25）</b></p><p>　　并返凹步驟２）繼續(xù)學習訓練。如果，則退出學習，這時的權值W1,W2及其偏移量B1，B2就為所求

109、神經網絡的最佳權值和最佳偏移量。式中的權值修正量, 可根據所需的精度、收斂速度來適當選取，式中的正負號則根據是否能夠使Ｅ向變小的方向移動的準則通過試探法來選擇。</p><p>　　通過訓練和學習，神經網絡就獲得 了用于信號調制樣式識別的所謂的 “知識”：即加權矩陣W，下面的工作就是對訓練和學習進行考核也就是進入測試階段，檢驗神經網絡的性能。</p><p><b>　　第四章

110、實驗的仿真</b></p><p>　　4.1零中心瞬時特征提取</p><p>　　如果要對調制信號進行識別，那么進行特征提取和對它識別的算法選擇是至關重要的一步。然而最重要、最基本的問題的就是特征提取，如果這部分處理好了，就能降低對分類器的要求。利用目標信號的時間和頻率的聯(lián)合分布來描述的散射特性,也就能夠提供更多的反映目標信號特征的信息。調制方式通常用于通信信號的空間傳播是

111、各不相同的。尤其是軍事方面，通信系統(tǒng)作為信息戰(zhàn)的手段，我們都想知道信號的活動情況，幫助選擇電子干擾直到截獲敵方的軍事情報。如果要準確的分類識別目標信號，變換處理原始信號的輸入相關數據是非常有必要的。這樣一些能夠反映通信信號分類差別的特征就很容易得到。特征的提取和選擇是非常重要的識別信號的分類。原因是，該分類器的性能直接影響下的設計。正因為此，信號調制識別系統(tǒng)與分類器設計中研究的主要內容就是特征提取和選擇。從接收的信號中提取信號的特征參數

112、是分類器設計的第一步，同時也是最為重要的一步。這其實就是怎樣實現(xiàn)信號調制識別的一種關鍵所在。 </p><p>　　就目前而言，常用的時頻分析方法有1、短時傅里葉變換，2、Wigner2Ville分布，3、小波變換等。本文介紹一下關于S變換的一些知識。S變換是R.G.Stockwell等提出的。這種分析方法是近年來人們研究非平穩(wěn)、大噪聲信號的時頻分布的一個重要手段。S變換，它是結合并發(fā)展了FFT以及連續(xù)小波變換。

113、這是變量的高斯函數的使用，該函數是頻率相關的，且具有多種分辨率，解決了短傅立業(yè)的問題，這些問題的一些變換可以率太低，由于固定分辨率的問題。相位因子包含在S變換是小波變換特性不能觸摸。由于S變換是一種線性時頻，這樣的交叉干擾項的科恩類分布不存在。</p><p>　　S變換是一種時頻變換方法，該方法具有短的傅立葉變換。隨著它的寬度特征的變化，一個反向變化的頻率，但它的高度特性與頻率成線性關系。</p>

114、<p>　　一個信號x（t）的S變換為：</p><p><b>　　(4-1)</b></p><p>　　其中窗函數為高斯函數：</p><p><b>　　(4-2)</b></p><p><b>　　另一種頻譜表達式：</b></p><

115、;p><b>　　(4-3)</b></p><p>　　S轉換能以頻域X(f)表示：</p><p><b>　　(4-4)</b></p><p>　　將以及分別去傅里葉變換可得：</p><p><b>　　(4-5)</b></p><p>