中科院 現(xiàn)代數(shù)字信號(hào)處理課件-完全版

1、現(xiàn)代數(shù)字信號(hào)處理,信息科學(xué)與工程學(xué)院,現(xiàn)代數(shù)字信號(hào)處理,第一章,預(yù)修課程,概率論與數(shù)理統(tǒng)計(jì)信號(hào)與系統(tǒng)數(shù)字信號(hào)處理1隨機(jī)過(guò)程,課程討論的主要問(wèn)題－1,對(duì)信號(hào)特性的分析研究對(duì)象：確定性信號(hào)－>隨機(jī)信號(hào)；研究目的：提取信號(hào)中的有用信息；主要內(nèi)容：隨機(jī)信號(hào)的統(tǒng)計(jì)特性；隨機(jī)信號(hào)的參數(shù)建模；功率譜估計(jì)（經(jīng)典譜估計(jì)和現(xiàn)代譜估計(jì)）；時(shí)頻分析（短時(shí)傅立葉變換、維格納變換、小波變換）,,,課程討論的主要問(wèn)題－2,信號(hào)處理技術(shù)

2、研究目的：提高信號(hào)質(zhì)量；主要內(nèi)容：維納濾波理論（平穩(wěn)條件下）；卡爾曼濾波理論（非平穩(wěn)條件下）；自適應(yīng)濾波理論；,課程特點(diǎn),現(xiàn)代數(shù)字信號(hào)處理的基本概念、基本理論和分析方法；結(jié)合有關(guān)問(wèn)題，介紹其在相關(guān)領(lǐng)域的應(yīng)用。,課程講述線(xiàn)索,本課程采用對(duì)不同處理對(duì)象的線(xiàn)索來(lái)講解：確定性信號(hào)－>隨機(jī)信號(hào)；平穩(wěn)信號(hào)處理－>非平穩(wěn)信號(hào)處理;時(shí)域－>頻域－>時(shí)頻分析;根據(jù)處理對(duì)象和應(yīng)用背景的不同而選擇相應(yīng)的處理方法,課程

3、主要內(nèi)容,第一章 時(shí)域離散隨機(jī)信號(hào)的分析 第二章 維納濾波和卡爾曼濾波 第三章 自適應(yīng)數(shù)字濾波器 第四章 功率譜估計(jì) 第五章 時(shí)頻分析,成績(jī)?cè)u(píng)定,課堂成績(jī) 閉卷考試,教材及參考書(shū),教材：張賢達(dá)，《現(xiàn)代信號(hào)處理》第二版，清華大學(xué)出版社，北京，2002。丁玉美，《數(shù)字信號(hào)處理—時(shí)域離散隨機(jī)信號(hào)處理》，西安電子科技大學(xué)出版社，2002。參考書(shū)：胡廣書(shū)，《數(shù)字信號(hào)處理－理論、算法與實(shí)現(xiàn)》第二版，清華大學(xué)出版社，北京，20

4、03。Roberto Cristi, Modern Digital Signal Processing, Thomson-Brooks/Cole，2004。 Dimitris G. Manolakis, etc, Statistical and Adaptive Signal Processing, Mc Graw Hill, 2000。,第一章 時(shí)域離散隨機(jī)信號(hào)的分析,1.1 隨機(jī)信號(hào) 1.2 時(shí)域統(tǒng)計(jì)表達(dá)1.3 Z域及

5、頻域的統(tǒng)計(jì)表達(dá) 1.4 隨機(jī)序列數(shù)字特征的估計(jì) 1.5 平穩(wěn)隨機(jī)序列通過(guò)線(xiàn)性系統(tǒng) 1.6 時(shí)間序列信號(hào)模型,1.1 隨機(jī)信號(hào),信號(hào)的分類(lèi)隨機(jī)變量及其統(tǒng)計(jì)描述隨機(jī)信號(hào)及其統(tǒng)計(jì)描述,,1.1.1 信號(hào)的分類(lèi),信號(hào)的分類(lèi)：確定性信號(hào)隨機(jī)信號(hào)平穩(wěn)隨機(jī)信號(hào)非平穩(wěn)隨機(jī)信號(hào),1.1.2 隨機(jī)變量,隨機(jī)變量的統(tǒng)計(jì)描述：概率分布函數(shù)：概率密度函數(shù)：均值（一階矩）：均方值（二階原點(diǎn)矩 ）：方差（二階中心矩

6、 ）：協(xié)方差：,,,,,,,幾種特殊分布的隨機(jī)變量的概率密度：均勻分布：高斯分布：N個(gè)實(shí)隨機(jī)變量 的聯(lián)合高斯分布的概率密度：,,,,,,其中，,1.1.3 隨機(jī)信號(hào),實(shí)際應(yīng)用中，常常把隨時(shí)間變化而變化的隨機(jī)變量，稱(chēng)為隨機(jī)過(guò)程。隨機(jī)信號(hào)的特點(diǎn)：在任何時(shí)間的取值都是隨機(jī)的（不能確切已知）取值服從概率分布規(guī)律（統(tǒng)計(jì)特性確定，但未知）隨機(jī)信號(hào)定義：一個(gè)隨機(jī)信號(hào)X(t

7、)是依賴(lài)時(shí)間t的一族隨機(jī)變量，或者說(shuō)它是所有可能的樣本函數(shù)的集合。,圖 1.1.1 n部接收機(jī)的輸出噪聲,X(t)= {xi(t), i=1, 2, 3,…},X(t)是所有可能樣本函數(shù)的集合,X(t1)= {xi(t1), i=1, 2, 3,…},X(t)= {X(t1), X(t2), X(t3), …},X(t)是依賴(lài)時(shí)間t的一族隨機(jī)變量,如果對(duì)隨機(jī)信號(hào)X(t)進(jìn)行等間隔采樣，或者說(shuō)將X(t) 進(jìn)行時(shí)域離散化, 得到隨機(jī)變量X(

8、t1), X(t2), X(t3), …, 所構(gòu)成的集合稱(chēng)為時(shí)域離散隨機(jī)信號(hào)。用n取代tn，隨機(jī)序列用X(n)表示，即隨機(jī)序列是隨n變化的隨機(jī)變量序列。,圖 1.1.2 n部接收機(jī)輸出噪聲的時(shí)域離散化,X(n)是依賴(lài)時(shí)間n的一族隨機(jī)變量,樣本函數(shù)xi(t)或樣本序列xi(n),隨機(jī)信號(hào)X(t)或X(n),隨機(jī)變量{X(t1), X(t2), X(t3), …},,,,特定時(shí)刻,隨機(jī)信號(hào)的統(tǒng)計(jì)描述：一維概率分布函數(shù)：一維概率密

9、度函數(shù)：上述兩式只描述隨機(jī)序列在某一時(shí)刻n的統(tǒng)計(jì)特性，而對(duì)于隨機(jī)序列，不同n的隨機(jī)變量之間并不是孤立的。,二維概率分布函數(shù):,對(duì)于連續(xù)隨機(jī)變量, 其二維概率密度函數(shù)為,以此類(lèi)推, N維概率分布函數(shù)為,對(duì)于連續(xù)隨機(jī)變量, 其N(xiāo)維概率密度函數(shù)為,數(shù)學(xué)期望(統(tǒng)計(jì)平均值):均方值:方差：,,,,一般均值、均方值和方差都是n的函數(shù), 但對(duì)于平穩(wěn)隨機(jī)序列, 它們與n無(wú)關(guān), 是常數(shù)。,,自相關(guān)函數(shù)：自協(xié)方差函數(shù)：,對(duì)于零均值

10、隨機(jī)序列，,這種情況下， 自相關(guān)函數(shù)和自協(xié)方差函數(shù)沒(méi)有什么區(qū)別。,，則,互相關(guān)函數(shù)定義為,互協(xié)方差函數(shù)定義為,同樣, 當(dāng) 時(shí)，,如果C(Xm, Yn)=0，則稱(chēng)信號(hào)Xm 與Yn互不相關(guān)。,1.2 平穩(wěn)隨機(jī)信號(hào)的時(shí)域統(tǒng)計(jì)表達(dá),平穩(wěn)隨機(jī)信號(hào)的定義平穩(wěn)隨機(jī)信號(hào)相關(guān)函數(shù)的性質(zhì) 平穩(wěn)隨機(jī)信號(hào)的各態(tài)遍歷性,1.2.1 平穩(wěn)隨機(jī)信號(hào)的定義,狹義(嚴(yán))平穩(wěn)隨機(jī)序列：隨機(jī)信號(hào)的統(tǒng)計(jì)特性不隨時(shí)間平移而變

11、化。廣義(寬)平穩(wěn)隨機(jī)序列：隨機(jī)信號(hào)的均值和方差不隨時(shí)間變化而變化，其相關(guān)函數(shù)與時(shí)間起點(diǎn)無(wú)關(guān)，僅是時(shí)間差的函數(shù)。,均值、 方差和均方值均與時(shí)間無(wú)關(guān)：,自相關(guān)函數(shù)與自協(xié)方差函數(shù)是時(shí)間差的函數(shù):,對(duì)于兩個(gè)各自平穩(wěn)且聯(lián)合平穩(wěn)的隨機(jī)序列, 其互相關(guān)函數(shù)為,顯然, 對(duì)于自相關(guān)函數(shù)和互相關(guān)函數(shù), 下面公式成立:,如果對(duì)于所有的m ，滿(mǎn)足公式：Rxy(m)=0，則稱(chēng)兩個(gè)隨機(jī)序列互為正交。如果對(duì)于所有的m ，滿(mǎn)足公式: Cxy (m)=0，則

12、稱(chēng)兩個(gè)隨機(jī)序列互不相關(guān)。,Rxx(m)是Hermitian對(duì)稱(chēng)的,1.2.2 實(shí)平穩(wěn)隨機(jī)信號(hào)相關(guān)函數(shù)的性質(zhì),（1） 自相關(guān)函數(shù)和自協(xié)方差函數(shù)是m 的偶函數(shù), 用下式表示:,（2） Rxx(0)數(shù)值上等于隨機(jī)序列的平均功率：,（3） 相關(guān)性隨時(shí)間差的增大越來(lái)越弱：,（4）大多數(shù)平穩(wěn)隨機(jī)序列內(nèi)部的相關(guān)性隨著時(shí)間差的變大， 愈來(lái)愈弱：,（5）,1.2.3 平穩(wěn)隨機(jī)信號(hào)的各態(tài)遍歷性,集合平均：由隨機(jī)序列X(n) 的無(wú)窮樣本

13、 在相應(yīng)時(shí)刻n對(duì)應(yīng)相加來(lái)實(shí)現(xiàn)的。,,,由上可知，集合平均要求對(duì)大量的樣本進(jìn)行平均, 實(shí)際中這種做法是不現(xiàn)實(shí)的。,時(shí)間平均： 設(shè)x(n)是平穩(wěn)隨機(jī)序列X(n)的一條樣本曲線(xiàn)，其時(shí)間平均值為,類(lèi)似地，其時(shí)間自相關(guān)函數(shù)為,各態(tài)遍歷性：對(duì)一平穩(wěn)隨機(jī)信號(hào)，如果它的所有樣本函數(shù)在某一固定時(shí)刻的一階和二階統(tǒng)計(jì)特性（集合平均）和單一樣本函數(shù)在長(zhǎng)時(shí)間內(nèi)的統(tǒng)計(jì)特性（時(shí)間平均）一致，則稱(chēng)其為各態(tài)遍歷信號(hào)。 意義

14、：?jiǎn)我粯颖竞瘮?shù)隨時(shí)間變化的過(guò)程可以包括該信號(hào)所有樣本函數(shù)的取值經(jīng)歷。直觀(guān)理解：只要一個(gè)實(shí)現(xiàn)時(shí)間充分長(zhǎng)的過(guò)程能夠表現(xiàn)出各個(gè)實(shí)現(xiàn)的特征，就可以用一個(gè)實(shí)現(xiàn)來(lái)表示總體的特性。,〈x(n)〉=E［X(n)］,〈x (n)x* (n+m)〉=E［X (n)X* (n+m)］,1.3 平穩(wěn)隨機(jī)信號(hào)的Z域及頻域的統(tǒng)計(jì)表達(dá),相關(guān)函數(shù)的Z變換平穩(wěn)隨機(jī)信號(hào)的功率密度譜,,1.3.1 相關(guān)函數(shù)的Z變換,平穩(wěn)隨機(jī)序列是非周期函數(shù)，且是能量無(wú)限信號(hào)，

15、無(wú)法直接利用傅里葉變換進(jìn)行分析。由前面對(duì)自相關(guān)函數(shù)和自協(xié)方差函數(shù)的討論可知： 當(dāng) 時(shí)， Rxx(m)是收斂序列。這說(shuō)明雖然無(wú)限能量信號(hào)本身的z變換與傅氏變換不存在，但它的自協(xié)方差序列和自相關(guān)序列（當(dāng) 時(shí)）的z變換與傅氏變換卻是存在的,其Z變換用Pxx(z)表示如下:,,且,因?yàn)?將上式進(jìn)行Z變換，得到：,如果z1是其極點(diǎn)，1/z*1也是極點(diǎn)。Pxx(z)的收斂域包含單位圓，因

16、此Rxx(m)的傅里葉變換存在。,令z=exp(jω), 可以得到Rxx(m)的傅立葉變換如下所示：,將m=0代入上式，得到,–––隨機(jī)序列的平均功率；,–––功率譜密度（簡(jiǎn)稱(chēng)功率譜）,維納–––辛欽定理（Wiener-Khinchin Theorem）,1.3.2 平穩(wěn)隨機(jī)信號(hào)的功率密度譜,有限時(shí)間段隨機(jī)信號(hào)x(t)的功率譜分布為：功率譜：協(xié)方差函數(shù)的Fourier變換,（1） 功率譜是ω的偶函數(shù)：,實(shí)、平穩(wěn)隨機(jī)序列功率譜的性

17、質(zhì),（2） 功率譜是實(shí)的非負(fù)函數(shù)， 即,Pxx(ω)≥0,功率譜的分類(lèi)：平譜（白噪聲譜）：一個(gè)平穩(wěn)的隨機(jī)序列w(n)，如果其功率譜 在 的范圍內(nèi)始終為一常數(shù)。 白噪聲序列在任意兩個(gè)不同的時(shí)刻是不相關(guān)的。若w(n)是高斯型的，那么它在任意兩個(gè)不同時(shí)刻又是相互獨(dú)立的。,,,,線(xiàn)譜：由一個(gè)或多個(gè)正弦信號(hào)所組成的信號(hào)的功率譜。若x(n)有L個(gè)正弦組成，即,其中，,是均勻分布的隨機(jī)

18、變量，可以求出,,此即為線(xiàn)譜，它是相對(duì)與平譜的另一個(gè)極端情況。,ARMA譜：既有峰點(diǎn)又有谷點(diǎn)的連續(xù)譜，這樣的譜可以由一個(gè)ARMA模型來(lái)表征。,1.4 隨機(jī)序列數(shù)字特征的估計(jì),估計(jì)準(zhǔn)則均值的估計(jì)方差的估計(jì)自相關(guān)函數(shù)的估計(jì),,1.4.1 估計(jì)準(zhǔn)則,估計(jì)方法：矩估計(jì)法、最大似然估計(jì)法、貝葉斯估計(jì)、最小均方誤差估計(jì)、最大后驗(yàn)估計(jì)，最小二乘估計(jì)、EM算法等。估計(jì)準(zhǔn)則：無(wú)偏性、有效性、一致性,假定對(duì)隨機(jī)變量x觀(guān)測(cè)了N次，得到N個(gè)觀(guān)

19、測(cè)值：x0, x1, x2, …, xN-1，希望通過(guò)這N個(gè)觀(guān)測(cè)值估計(jì)參數(shù) ?，稱(chēng)?為真值， 它的估計(jì)值用　表示。 　是觀(guān)測(cè)值的函數(shù)，假定該函數(shù)關(guān)系用F［·］表示，,(1.4.1),如果估計(jì)值接近真值的概率比較大，則說(shuō)明這是一種比較好的估計(jì)方法。,圖 1.4.1 估計(jì)量的概率密度曲線(xiàn),1. 偏移性令估計(jì)量的統(tǒng)計(jì)平均值與真值之間的差值為偏移B， 其公式為,如果B=0，稱(chēng)為無(wú)偏估計(jì)。如果B≠0，則稱(chēng)為有偏估計(jì)。如果隨著觀(guān)察

20、次數(shù)N的加大，能夠滿(mǎn)足下式：,則稱(chēng)為漸近無(wú)偏估計(jì)，這種情況在實(shí)際中是經(jīng)常有的。,在許多情況下，一個(gè)有偏但漸進(jìn)無(wú)偏的估計(jì)具有比一個(gè)無(wú)偏的估計(jì)好得多的分析和計(jì)算性質(zhì)。,2. 有效性——估計(jì)量的方差　　如果兩個(gè)估計(jì)量的觀(guān)察次數(shù)相同，又都是無(wú)偏估計(jì)，哪一個(gè)估計(jì)量在真值附近的擺動(dòng)更小一些，即估計(jì)量的方差更小一些， 就說(shuō)這一個(gè)估計(jì)量的估計(jì)更有效。 　如果　和　　都是x的兩個(gè)無(wú)偏估計(jì)值，對(duì)任意N，它們的方差滿(mǎn)足下式：,式中,(1.4.4),

21、則稱(chēng)　比　更有效。一般希望當(dāng)N→∞時(shí)，　　　。,3. 一致性——均方誤差　　估計(jì)量的均方誤差用下式表示：,如果估計(jì)量的均方差隨著觀(guān)察次數(shù)的增加趨于0，即估計(jì)量隨N的加大，在均方意義上趨于它的真值，則稱(chēng)該估計(jì)是一致估計(jì)。,上式表示，隨N的加大，偏移和估計(jì)量方差都趨于零，是一致估計(jì)的充分必要條件。通常對(duì)于一種估計(jì)方法的選定， 往往不能使上述的三種性能評(píng)價(jià)一致，此時(shí)只能對(duì)它們折衷考慮， 盡量滿(mǎn)足無(wú)偏性和一致性。,,常數(shù),估計(jì)量的均方誤差與估

22、計(jì)量的方差和偏移的關(guān)系推導(dǎo)如下：,1.4.2 均值的估計(jì),假設(shè)已取得樣本數(shù)據(jù)：xi(i=0, 1, 2, …, N-1)， 均值的估計(jì)量用下式計(jì)算：,式中N是觀(guān)察次數(shù)。,1. 偏移,因此 B=0 ， 說(shuō)明這種估計(jì)方法是無(wú)偏估計(jì)。,2. 估計(jì)量的方差與均方誤差,先假設(shè)數(shù)據(jù)內(nèi)部不相關(guān)， 那么,以上式表明，估計(jì)量的方差隨觀(guān)察次數(shù)N增加而減少，當(dāng)Ν→∞時(shí)，估計(jì)量的方差趨于0。這種情況下估計(jì)量的均方誤差為,這樣，當(dāng)N→∞時(shí)，B=0,

23、 ， ，是一致估計(jì)。,如果數(shù)據(jù)內(nèi)部存在關(guān)聯(lián)性， 會(huì)使一致性的效果下降，估計(jì)量的方差比數(shù)據(jù)內(nèi)部不存在相關(guān)情況的方差要大，達(dá)不到信號(hào)方差的1/N。,1.4.3 方差的估計(jì),已知N點(diǎn)樣本數(shù)據(jù)xi(i=0, 1, 2, …, N-1)， 假設(shè)數(shù)據(jù)之間不存在相關(guān)性，且信號(hào)的均值mx已知，方差用下式估計(jì),可以證明這是無(wú)偏一致估計(jì)：,數(shù)據(jù)之間不存在相關(guān)性，均值也不知道的情況下，方差的估計(jì)方法。 方差估計(jì)用下式計(jì)算

24、：,1. 偏移性,式中的第二項(xiàng)已經(jīng)推出， 式中的第三項(xiàng)推導(dǎo)如下：,由此可以得到,上式表明，該估計(jì)方法，是有偏估計(jì)，但是漸進(jìn)無(wú)偏。,為了得到無(wú)偏估計(jì)， 可以用下式計(jì)算：,之間的關(guān)系是,和,還可以證明它也是一致估計(jì)。,1.4.4 自相關(guān)函數(shù)的估計(jì),無(wú)偏自相關(guān)函數(shù)的估計(jì) 估計(jì)公式為,0≤m≤N-1,1-N<m<0,,將上面兩式寫(xiě)成一個(gè)表達(dá)式：,1. 偏移性,因此, B=0, 這是一種無(wú)偏估計(jì)。,為了分析簡(jiǎn)單，假設(shè)x

25、(n)是實(shí)的、均值為0的高斯隨機(jī)信號(hào)。對(duì)于均值為0的高斯隨機(jī)變量，其四階矩為：,2.估計(jì)量的方差,利用上式，求和號(hào)內(nèi)的部分可以寫(xiě)成下式：,由此，,式中，令 r=k-n，此時(shí)求和域發(fā)生了變化，如圖1.4.2所示。,(1.4.25),圖 1.4.2,根據(jù)變化后的求和域(k, r)， 估計(jì)量的方差推導(dǎo)如下:,,,一般觀(guān)測(cè)數(shù)據(jù)量N很大，,有偏自相關(guān)函數(shù)的估計(jì) 有偏自相關(guān)函數(shù)用 表示，計(jì)算公式如下：,下面可推導(dǎo)出

26、它服從漸近一致估計(jì)的原則，比無(wú)偏自相關(guān)函數(shù)的估計(jì)誤差小， 因此以后需要由觀(guān)測(cè)數(shù)據(jù)估計(jì)自相關(guān)函數(shù)時(shí)， 均用上式進(jìn)行計(jì)算。,無(wú)偏自相關(guān)函數(shù)與有偏自相關(guān)函數(shù)的關(guān)系式為,因?yàn)?是無(wú)偏估計(jì)，因此得到,1. 偏移性,上式說(shuō)明 是有偏估計(jì)，但是漸近無(wú)偏，其偏移為,的統(tǒng)計(jì)平均值等于其真值乘以三角窗函數(shù)wB(m)（或稱(chēng)巴特利特窗函數(shù)）,,三角窗函數(shù)的波形如圖1.4.3所示。只有當(dāng)m=0時(shí)， 才是無(wú)偏的，

27、其它m都是有偏的，但當(dāng)N→∞時(shí)，wB(m)→1，B→0, 因此 是漸近無(wú)偏。,圖 1.4.3 三角窗函數(shù),顯然, 當(dāng)N→∞時(shí), ，并且,由以上得到結(jié)論： 雖然是有偏估計(jì)，但是漸近一致估計(jì)， 估計(jì)量的方差小于的方差。 因此實(shí)際中多用這種有偏自相關(guān)函數(shù)估計(jì)。,2.估計(jì)量的方差,1.5 平穩(wěn)隨機(jī)序列通過(guò)線(xiàn)性系統(tǒng),系統(tǒng)響應(yīng)的均值、 自相關(guān)函數(shù)和平穩(wěn)性分析輸出響應(yīng)的功率譜密度函數(shù)系統(tǒng)的輸入、 輸出互

28、相關(guān)函數(shù)相關(guān)卷積定理,,穩(wěn)定系統(tǒng)有界輸入必導(dǎo)致有界輸出的系統(tǒng)對(duì)連續(xù)系統(tǒng):對(duì)離散系統(tǒng):,因果系統(tǒng)輸出必在輸入之后,,穩(wěn)定系統(tǒng)：h(t)絕對(duì)可積分＝收斂域包含單位圓因果系統(tǒng)：收斂域內(nèi)是否包含 ，即因果穩(wěn)定系統(tǒng)：傳遞函數(shù)的極點(diǎn)全部在單位圓內(nèi)最小相位系統(tǒng)：H(z)全部零點(diǎn)在單位圓內(nèi)可逆系統(tǒng)：無(wú)在單位圓上零點(diǎn)的系統(tǒng),,1.5.1 系統(tǒng)響應(yīng)的均值、 自相關(guān)函數(shù)和平穩(wěn)性分析,這樣, mx與時(shí)間無(wú)關(guān)，my也與時(shí)

29、間無(wú)關(guān)。,輸出均值：,輸出的自相關(guān)函數(shù)：,對(duì)于一個(gè)線(xiàn)性非時(shí)變系統(tǒng)，如果輸入是平穩(wěn)隨機(jī)序列，則輸出也是平穩(wěn)隨機(jī)序列。,令l=r-k, 得到,式中,1.5.2 輸出響應(yīng)的功率譜密度函數(shù),將z=ejω代入上式，得到輸出功率譜：,Pyy (ejω)=Pxx(ejω)H(ejω)H*(ejω)=Pxx( ejω)|H(ejω)|2,如果h(n)是實(shí)序列，,v(l)=h(l)*h(-l),V(z)=H(z)H(z-1),Pyy(z)=Pxx(z)H

30、(z)H(z-1),1.5.3 系統(tǒng)的輸入、 輸出互相關(guān)函數(shù),輸入、輸出互相關(guān)定理：,1.5.4 相關(guān)卷積定理,線(xiàn)性系統(tǒng)輸出的自相關(guān)函數(shù)等于輸入自相關(guān)函數(shù)與線(xiàn)性系統(tǒng)單位脈沖響應(yīng)的自相關(guān)函數(shù)的卷積，即,或者簡(jiǎn)單地說(shuō), 卷積的相關(guān)函數(shù)等于相關(guān)函數(shù)的卷積。 用一般公式表示如下：,如果,那么,ref(m)=rac(m) * rbd(m),例1.5.1 假設(shè)系統(tǒng)的輸入、輸出和單位脈沖響應(yīng)分別用x(n)、 y(n)和h(n)表示，試求輸入、輸出互

31、相關(guān)函數(shù)和輸入自相關(guān)函數(shù)之間的關(guān)系。 解： 按照相關(guān)卷積定理，得到,x(n)=x(n)*δ(n)y(n)=x(n)*h(n)Rxy(m)=Rxx(m)*Rδh(m),式中,相應(yīng)的有：,例1.5.2 按照?qǐng)D1.5.2推導(dǎo)兩個(gè)系統(tǒng)的輸出互相關(guān)函數(shù)與輸入互相關(guān)函數(shù)之間的關(guān)系。,圖1.5.2,解： y1(n)=x1(n)*h1(n)

32、 y2(n)=x2(n)*h2(n),按照相關(guān)卷積定理, 有,按照?qǐng)D1.5.2還有下面關(guān)系式,(1),(2),1.6 時(shí)間序列信號(hào)模型,三種時(shí)間序列模型三種時(shí)間序列信號(hào)模型的適應(yīng)性自相關(guān)函數(shù)、功率譜與時(shí)間序列信號(hào)模型的關(guān)系,,,圖 1.6.1 平穩(wěn)隨機(jī)序列的信號(hào)模型,1.6.1 三種時(shí)間序列模型,假設(shè)信號(hào)模型用一個(gè)p階差分方程描述:,x(n)+a1x(n-1)+…+apx(n-p) 　 =w(n)+b1w(

33、n-1)+…+bqw(n-q),式中, w(n)是零均值、方差為σ2w的白噪聲; x(n)是要研究的隨機(jī)序列。,,（1.6.1）,1. 自回歸-滑動(dòng)平均模型（簡(jiǎn)稱(chēng)ARMA模型）該模型的差分方程用（1.6.1）式描述， 系統(tǒng)函數(shù)用下式表示：,式中， 是自回歸參數(shù)， 叫做滑動(dòng)平均參數(shù)。,利用維納辛欽定理給出其功率譜密度為,,類(lèi)似地，可得功率譜為,,圖1.6.1 ARMA(p,q) 隨機(jī)過(guò)程模型,,,2. 滑動(dòng)平均模型（Moving A

34、verage，簡(jiǎn)稱(chēng)MA模型） 　　當(dāng)（1.6.1）式中ai=0, i=1, 2, 3, …, p時(shí), 該模型稱(chēng)為MA模型。 模型差分方程和系統(tǒng)函數(shù)分別表示為：,x(n)=w(n)+b1w(n-1)+…+bqw(n-q) H(z)=B(z)B(z)=1+b1z-1+b2z-2+…+bqz-q…,上式表明該模型只有零點(diǎn), 沒(méi)有除原點(diǎn)以外的極點(diǎn)， 因此此模型也稱(chēng)為全零點(diǎn)模型。 如果模型全部零點(diǎn)都在單位圓內(nèi)部，則是一個(gè)最小相

35、位系統(tǒng)。,MA模型的功率譜密度為,類(lèi)似地，可得功率譜為,,圖1.6.2 MA(q) 隨機(jī)過(guò)程模型,,3. 自回歸模型（Autoregressive, 簡(jiǎn)稱(chēng)AR模型）　 　 當(dāng)（1.6.1）式中bi=0, i=1, 2, 3, …，q時(shí)，該模型稱(chēng)為AR模型。模型差分方程和系統(tǒng)函數(shù)分別表示為：,x(n)+a1x(n-1)+a2x(n-2)+…+apx(n-p)=w(n),A(z)=1+a1z-1+a2z-2+…+apz-p,上式表明該模

36、型只有極點(diǎn), 沒(méi)有除原點(diǎn)以外的零點(diǎn)，因此該模型也稱(chēng)為全極點(diǎn)模型。只有當(dāng)全部極點(diǎn)都在單位圓內(nèi)部時(shí)， 模型才穩(wěn)定。,AR模型的功率譜密度為,類(lèi)似地，可得功率譜為,,圖1.6.3 AR(p)隨機(jī)過(guò)程模型,,關(guān)于A(yíng)RMA、AR、MA模型的功率譜，可以做一個(gè)定性的描述：由于MA模型是通過(guò)一個(gè)全零點(diǎn)濾波器產(chǎn)生，當(dāng)有零點(diǎn)接近單位圓時(shí)，MA譜可能是一個(gè)深谷；類(lèi)似地，當(dāng)極點(diǎn)接近單位圓時(shí)，AR譜對(duì)應(yīng)的頻率處會(huì)是一個(gè)尖峰；ARMA譜既有尖峰又有深谷。

37、,濾波器長(zhǎng)度：一般是指濾波器的單位脈沖響應(yīng)的長(zhǎng)度。 對(duì)于FIR濾波器或者M(jìn)A模型, 其單位脈沖響應(yīng)的長(zhǎng)度是有限長(zhǎng)的，長(zhǎng)度就是系數(shù)的個(gè)數(shù)； 對(duì)于IIR濾波器或者AR模型、ARMA模型，其單位脈沖響應(yīng)的長(zhǎng)度則是無(wú)限長(zhǎng)的。 濾波器階數(shù)： 對(duì)于IIR濾波器或者AR模型、ARMA模型，階數(shù)是指p的大小，如果用差分方程表示，則p就是差分方程的階數(shù)。對(duì)于FIR濾波器或者M(jìn)A模型的階數(shù)，則是指（1.6.4）式中q的大小，或者說(shuō)是它的長(zhǎng)度減1

38、。,1.6.2 三種時(shí)間序列信號(hào)模型的適用性,沃爾德（Wold）分解定理： 任意一個(gè)實(shí)平穩(wěn)隨機(jī)序列x(n)均可以分解成： x(n) =u(n)+v(n)，式中u(n)是確定性信號(hào), v(n)是具有連續(xù)譜分布函數(shù)的平穩(wěn)隨機(jī)MA序列。 由Wold分解定理可知，AR模型或ARMA模型可用一個(gè)可能是無(wú)窮階的MA模型表示，說(shuō)明MA信號(hào)模型和ARMA信號(hào)模型具有普遍適用的性質(zhì)。,柯?tīng)柲衤宸颍↘olmogorov）定理： 該

39、定理暗示了MA模型或ARMA模型可用一個(gè)可能是無(wú)窮階AR模型來(lái)表示，從而說(shuō)明了AR信號(hào)模型的適用性。 任意一個(gè)MA序列可用無(wú)限階AR信號(hào)模型表示，或者用階數(shù)足夠大的AR信號(hào)模型近似表示。證明如下：,b0=1,對(duì)上式進(jìn)行Z變換得到,X(z)=B(z)W(z),設(shè)MA序列為,這樣,X(z)G(z)=(1+g1z-1+g2z-2+…)X(z)=W(z),對(duì)上式進(jìn)行Z反變換，得到,x(n)+g1x(n-1)+g2x(n-2)+…=w(n

40、),上式表示的就是x(n)的AR信號(hào)模型差分方程，因此證明了一個(gè)時(shí)間序列可以用有限階MA信號(hào)模型表示時(shí)，也可以用無(wú)限階的AR模型表示。,B-1(z)=G(z)=1+g1z-1+g2z-2+…,設(shè)MA信號(hào)模型滿(mǎn)足可逆性條件，即B-1(z)存在，令,對(duì)于A(yíng)RMA模型也可以用無(wú)限階AR模型表示。,設(shè)AR模型系統(tǒng)函數(shù)用HAR(z)表示：,令HAR(z)=H(z), 即,可以求出ci系數(shù),一個(gè)ARMA模型可以用一個(gè)MA模型來(lái)表示：,用MA模型表示

41、：,一般AR模型適合表示時(shí)間序列的功率譜有尖峰而沒(méi)有深谷的信號(hào)，MA模型適合表示其功率譜有深谷而沒(méi)有尖峰的信號(hào)，ARMA模型則適合尖峰和深谷都有的情況。,1.6.3 自相關(guān)函數(shù)、功率譜與時(shí)間序列信號(hào)模型的關(guān)系,(1.6.7),實(shí)平穩(wěn)隨機(jī)信號(hào)x(n)的功率譜為：,如何按照上式唯一地分解出一個(gè)因果穩(wěn)定的模型系統(tǒng)函數(shù)H(z)，是本節(jié)要討論的問(wèn)題。,有理譜信號(hào)： 如果信號(hào)模型輸出的功率譜是ejω或者cosω的有理函數(shù)，這種信號(hào)稱(chēng)為有

42、理譜信號(hào)。,譜分解定理 如果功率譜Pxx(ejω)是平穩(wěn)隨機(jī)序列x(n)的有理譜，那么一定存在一個(gè)零極點(diǎn)均在單位圓內(nèi)的有理函數(shù)H(z),,滿(mǎn)足,式中，ak, bk都是實(shí)數(shù)，a0=b0=1, 且|αk|＜1, |βk|＜1。,例1.6.1 已知有理譜如下式：,我們把所有可能的分解形式寫(xiě)出來(lái)：,(1),(2),(3),(4),在以上四種分解情況中，只有（1）滿(mǎn)足極零點(diǎn)均在單位圓內(nèi)部， 因此按照譜分解定理的約束條件，只能唯一地

43、分解出一個(gè)零極點(diǎn)均在單位圓內(nèi)部的系統(tǒng)函數(shù)。如果沒(méi)有零極點(diǎn)均在單位圓內(nèi)部的約束條件，分解便不是唯一的。另外，按照譜分解定理分解出H(z)一定是最小相位系統(tǒng)，它保證了模型的可逆性， 即逆系統(tǒng)存在。,分解方法： 我們知道功率譜是cosω的函數(shù)，為了對(duì)功率譜進(jìn)行譜分解， 下面介紹一種分解方法：  （1） 用φ代替cosω， 得到有理函數(shù)V(φ)； （2） 求出V(φ)分子、分母的全部根φi ;

44、 （3） 構(gòu)造對(duì)每個(gè)φi的方程:,該方程有兩個(gè)根：Zi和1/ Zi ，其中Zi是單位圓內(nèi)的根；,（4） 用單位圓內(nèi)部極零點(diǎn)構(gòu)成H(z)，零點(diǎn)是分子多項(xiàng)式的根Zi，極點(diǎn)是分母多項(xiàng)式的根Zj，,常數(shù)C由功率譜Pxx(ejω)確定。,例1.6.2 已知x(n)的功率譜,求其模型的系統(tǒng)函數(shù)。,解：,（1） 令φ=cosω，則,(2),(3),(4),設(shè)σ2w=1，對(duì)比給定的功率譜，得到：C=2/3 ，模型系統(tǒng)函數(shù)為,也可以假定σ2w=4

45、/9，此時(shí)模型系統(tǒng)函數(shù)為,這樣得到的模型系統(tǒng)函數(shù)的常數(shù)因子不同，但常數(shù)因子僅影響其幅度大小，不影響問(wèn)題實(shí)質(zhì)。,自相關(guān)函數(shù)、功率譜、時(shí)間序列信號(hào)模型三者之間的關(guān)系：,自相關(guān)函數(shù)、功率譜、時(shí)間序列信號(hào)模型三者之間關(guān)系,現(xiàn)代數(shù)字信號(hào)處理,第二章,第二章 維納濾波和卡爾曼濾波,2.1 引言 2.2 離散維納濾波器的時(shí)域解 2.3 離散維納濾波器的z域解 2.4 維納預(yù)測(cè) 2.5 卡爾曼(Kalman)濾波,2.1 引 言,最優(yōu)濾

46、波維納濾波和卡爾曼濾波簡(jiǎn)介本章討論的主要內(nèi)容,1、最優(yōu)濾波,信號(hào)處理的目的是從噪聲中提取信號(hào)，得到不受干擾影響的真正信號(hào)。采用的處理系統(tǒng)稱(chēng)為濾波器。濾波器的分類(lèi)：線(xiàn)性濾波器、非線(xiàn)性濾波器；FIR濾波器、IIR濾波器；時(shí)域?yàn)V波器、頻域?yàn)V波器；,圖 2.1.1 信號(hào)處理的一般模型,x(n)=s(n)+v(n),最優(yōu)準(zhǔn)則：最大輸出信噪比準(zhǔn)則－>匹配濾波器最小均方誤差準(zhǔn)則誤差絕對(duì)值的期望值最小 誤差絕對(duì)值的三次或

47、高次冪的期望值最小,,x(n)=s(n)+v(n),Wiener濾波器的一般結(jié)構(gòu),2、維納濾波和卡爾曼濾波簡(jiǎn)介,維納(Wiener)濾波與卡爾曼(Kalman)濾波以估計(jì)的結(jié)果與信號(hào)真值之間的誤差的均方值最小作為最優(yōu)準(zhǔn)則。,,,假設(shè)信號(hào)的真值與估計(jì)值間的誤差為：,均方誤差最小即誤差的平方的統(tǒng)計(jì)平均值最?。?最小,3、本章討論的主要內(nèi)容,主要內(nèi)容：維納濾波器（FIR維納濾波器和IIR維納濾波器）、維納預(yù)測(cè)器、卡爾曼濾波。分析思路：在均方

48、誤差最小的前提下，求得系統(tǒng)的單位脈沖響應(yīng)h(n)或傳遞函數(shù)H(z)，進(jìn)而計(jì)算濾波器的最小均方誤差,,2.2 離散維納濾波器的時(shí)域解,本節(jié)要解決的主要問(wèn)題及方法正交性原理維納—霍夫方程FIR維納濾波器的時(shí)域解,1、本節(jié)要解決的主要問(wèn)題及方法,要解決的問(wèn)題：尋求在均方誤差最小情況下的單位脈沖響應(yīng)h(n)或傳遞函數(shù)H(z)的表達(dá)式，這一過(guò)程稱(chēng)為設(shè)計(jì)維納濾波器的過(guò)程。解決方法：實(shí)質(zhì)是求解維納－霍夫(Wiener-Hopf)方程，即

49、,本節(jié)討論維納濾波器的時(shí)域求解方法，即在時(shí)域求最小均方誤差下的 。,2、 維納濾波器時(shí)域求解的方法,因果維納濾波器的輸出y(n) ：,n=0,1, 2, …,設(shè)期望信號(hào)為d(n)，誤差信號(hào)e(n)及其均方值E［|e(n)|2］分別為,e(n)=d(n)-y(n)=s(n)-y(n),k=0, 1, 2, …,記梯度算子為,k=0, 1, 2, …,,要使均方誤差為最小，須滿(mǎn)足,上式展開(kāi)為,又,將上述4式代入得,分析：

50、上式說(shuō)明，若使濾波器的均方誤差達(dá)到，則誤差信號(hào)與輸入信號(hào)正交，這就是通常所說(shuō)的正交性原理。,正交性原理：,,正交性原理的重要意義：提供了一個(gè)數(shù)學(xué)方法，用以判斷線(xiàn)性濾波系統(tǒng)是否工作于最佳狀態(tài)。,,正交性原理的引理：最佳狀態(tài)時(shí)，由濾波器輸出定義的期望響應(yīng)的估計(jì)yopt(n)與估計(jì)誤差eopt(n)正交：,,3、 維納—霍夫方程,將輸入信號(hào)分配進(jìn)去， 得到,k=0, 1, 2, …,維納-霍夫（Wiener－Hopf）方程：,k=0, 1,

51、2, …,4、FIR維納濾波器的時(shí)域解,FIR維納濾波器的維納-霍夫方程 當(dāng)h(n)是一個(gè)長(zhǎng)度為M的因果序列時(shí)，F(xiàn)IR維納濾波器的維納-霍夫方程表述為,k=0, 1, 2, …,M-1,(2.2.21),把k的取值代入(2.2.21)式， 得到,,(2.2.22),定義,（2.2.22）式可以寫(xiě)成矩陣形式， 即,對(duì)上式求逆，得到,這里涉及到計(jì)算相關(guān)矩陣和逆矩陣，計(jì)算量可能較大。,FIR維納濾波器的估計(jì)誤差的均方值

52、 假定所研究的信號(hào)都是零均值的，濾波器為FIR型，長(zhǎng)度等于M，,結(jié)論：在所有N階FIR濾波器中，最優(yōu)濾波器的均方誤差值是最小的，從這個(gè)意義上說(shuō)，它是最優(yōu)的。其階數(shù)越高，采用的已知信息就越多，它的最小均方誤差就越小，但相應(yīng)的計(jì)算量也越大。,例1 假設(shè)有一實(shí)的廣義平穩(wěn)隨機(jī)信號(hào)s(n)的自相關(guān)函數(shù)（序列）為 ,且伴隨有實(shí)的噪聲w(n)，方差為 ，與s(n)

53、無(wú)關(guān)。試設(shè)計(jì)一個(gè)M=2的FIR維納濾波器來(lái)估計(jì)s(n) ，并計(jì)算最小均方誤差。,解：已知,由此，M=2最佳FIR維納濾波器如下：,或者，利用下式求解,k=0, 1,當(dāng)k=0時(shí)，2h0+0.6h1＝1當(dāng)k=1時(shí)，0.6h0+2 h1＝0.6,估計(jì)該濾波器的輸出誤差的最小均方值：,經(jīng)過(guò)此濾波器以前的均方誤差為,2.3 離散維納濾波器的z域解,本節(jié)要解決的主要問(wèn)題及方法白化濾波器非因果IIR維納濾波器的Z域解因果IIR維納濾

54、波器的Z域解,1、本節(jié)要解決的主要問(wèn)題及方法,待解決的問(wèn)題：當(dāng)h(n)是物理可實(shí)現(xiàn)的因果序列時(shí)，所得到的Wiener-Hopf方程 將存在k≥0的約束，不能直接轉(zhuǎn)到Z域求解。這使得在要求滿(mǎn)足物理可實(shí)現(xiàn)條件下，求解維納-霍夫方程成為一個(gè)十分困難的問(wèn)題。 解決方法：采用將觀(guān)測(cè)序列x(n)白化的方法，求解Wiener-Hopf方程的Z域解。,若不考慮濾波器的因果性，維納－霍夫方程可以改寫(xiě)為,設(shè)定d(n)=s(n)，對(duì)上式兩邊做Z變換，得到

55、,Sxs (z)=Hopt(z)Sxx(z),x(n)=s(n)+v(n),假設(shè)信號(hào)和噪聲不相關(guān)，即rsv(m)=0，則,Sxs (z)=Sss(z)Sxx(z)=Sss(z)+Svv(z),對(duì)于因果IIR維納濾波器，其維納－霍夫方程為,k=0, 1, 2, …,因?yàn)榇嬖趉≥0的約束，使得上式不能直接轉(zhuǎn)到Z域求解。如有可能將其轉(zhuǎn)化為非因果問(wèn)題，則求解會(huì)大大簡(jiǎn)化。,則因果IIR維納濾波器的維納－霍夫方程變?yōu)椋?由此可見(jiàn)，只要將輸入信號(hào)

56、轉(zhuǎn)化為白噪聲，就可以解得因果IIR維納濾波器的單位脈沖響應(yīng)。,2、白化濾波器,任何具有有理功率譜密度的隨機(jī)信號(hào)都可以看成是由一白色噪聲w(n)激勵(lì)某個(gè)物理網(wǎng)絡(luò)所形成。,x(n)的時(shí)間序列信號(hào)模型,一般把信號(hào)轉(zhuǎn)化為白噪聲的過(guò)程稱(chēng)為白化，對(duì)應(yīng)的濾波器稱(chēng)為白化濾波器。,x(n)的白化濾波器,如果B(z)是一個(gè)最小相移網(wǎng)絡(luò)函數(shù)，那么1/B(z)顯然也是一個(gè)物理可實(shí)現(xiàn)的最小相移網(wǎng)絡(luò)，因此可以利用上式白化x(n)。,,,利用白化x(n)的方法求解維

57、納-霍夫方程,利用白化x(n)的方法求解維納-霍夫方程:,,,于是，在最小均方誤差準(zhǔn)則下，求最佳Hopt(z)的問(wèn)題就歸結(jié)為求最佳G(z)的問(wèn)題了。G(z)當(dāng)然也需分因果性或非因果性的約束情況加以討論。,如果已知信號(hào)的Pxx(z)，即可由下式求得B(z) 。,計(jì)算Hopt (z)：,3、 非因果IIR維納濾波器的求解,,,(2.3.9),求滿(mǎn)足最小均方誤差條件下的g(k)：為求得相對(duì)于g(k)的最小均方誤差值，令,-∞＜k＜∞,-∞＜

58、k＜∞,Z變換后,,非因果IIR維納濾波器的最佳解：,s(n)=s(n)*δ(n)，x(n)=w(n)*b(n),rxs(m)=rws(m)*b(-m),Sxs (z)=Sws(z)B(z-1),,,非因果IIR維納濾波器的復(fù)頻域最佳解的一般表達(dá)式,假定信號(hào)與噪聲不相關(guān)，即當(dāng)E［s(n)v(n)］=0時(shí)可以得到：,Sxs(z)=Sss(z),Sxx(z)=Sss(z)+Svv(z),信號(hào)和噪聲不相關(guān)時(shí)，非因果IIR維納濾波器的復(fù)頻域最

59、佳解和頻率響應(yīng)分別為,由上式可知：當(dāng)噪聲為0時(shí)，Hopt=1，信號(hào)全部通過(guò)；當(dāng)信號(hào)為0時(shí)， Hopt=0，噪聲全部被抑制掉；當(dāng)即有信號(hào)又有噪聲時(shí)， Hopt<1，大小隨Pvv的增加而減小，從而達(dá)到降低噪聲影響的目的。,圖 2.3.6 非因果維納濾波器的傳輸函數(shù)的幅頻特性,計(jì)算最小均方誤差E［|e(n)|2］min：,第一項(xiàng)根據(jù)圍線(xiàn)積分法求逆Z變換的公式, rss(m)用下式表示:,得出,第二項(xiàng)由帕塞伐爾定理：,取y(n)=x

60、(n), 有,因此,得到,,假定信號(hào)與噪聲不相關(guān)，E［s(n)v(n)］=0，又因?yàn)閷?shí)信號(hào)的自相關(guān)函數(shù)是偶函數(shù)，即rss(m)=rss(-m)，則,Sxs(z)=Sss(z) ，Sxx(z)=Sss(z)+Svv(z)； Sss(z)=Sss(z-1),,4、 因果IIR維納濾波器的求解 若維納濾波器是一個(gè)因果濾波器， 要求,g(n)=0 n＜0,則濾波器的輸出信號(hào),估計(jì)誤差的均方值,E［|e(n)|2］=E［|s(n)

61、-y(n)|2］,類(lèi)似于（2.3.9）式的推導(dǎo)，得到,要使均方誤差取得最小值， 當(dāng)且僅當(dāng),令,因果維納濾波器的復(fù)頻域最佳解為,維納濾波的最小均方誤差為,非因果情況時(shí)，濾波器的最小均方誤差為,對(duì)于因果情況，,比較兩式，可以看出非因果情況的E［|e(n)|2］min一定小于等于因果情況E［|e(n)|2］min。,因果維納濾波器設(shè)計(jì)的一般方法：  (1) 根據(jù)觀(guān)測(cè)信號(hào)x(n)的功率譜求出它所對(duì)應(yīng)信號(hào)模型的傳輸函數(shù)，即采用譜分解的方

62、法得到B(z)，Sxx(z)=σ2wB(z)B(z-1)。 (2) 求的Z反變換，取其因果部分再做Z變換，即舍掉單位圓外的極點(diǎn)，得 (3) 積分曲線(xiàn)取單位圓，計(jì)算Hopt(z), E［|e(n)|2］min。,例 2.3.1 已知,信號(hào)和噪聲不相關(guān)，即rsv(m)=0，噪聲v(n)是零均值、單位功率的白噪聲（σ2v=1,mv=0)，求Hopt(z)和E［|e(n)|2］min。  解 根據(jù)

63、白噪聲的特點(diǎn)得出Svv(z)=1, 由噪聲和信號(hào)不相關(guān)， 得到rxx(m)=rss(m)+rvv(m)。,考慮到B(z)必須是因果穩(wěn)定的系統(tǒng)，得到,(1)、 首先分析物理可實(shí)現(xiàn)情況:,因?yàn)?,取其因果部分,取單位圓為積分圍線(xiàn)，上式等于單位圓內(nèi)的極點(diǎn),,的留數(shù)之和，即,未經(jīng)濾波器的均方誤差,,所以通過(guò)因果維納濾波器后均方誤差下降8/3(≈2.7)倍。,(2)、 對(duì)于非物理可實(shí)現(xiàn)情況有,令,單位圓內(nèi)有兩個(gè)極點(diǎn)0.8和0.5, 應(yīng)用留數(shù)定理，

64、有,結(jié)論：比較兩種情況下的最小均方誤差,可以看出非物理可實(shí)現(xiàn)情況的最小均方誤差小于物理可實(shí)現(xiàn)情況的均方誤差。,,維納濾波部分的總結(jié)：,主要內(nèi)容：FIR維納濾波求解、非因果IIR維納濾波求解、因果IIR維納濾波求解；知識(shí)點(diǎn)：最小均方誤差準(zhǔn)則、正交性原理、維納－霍夫方程、白化濾波器；結(jié)論：在所有N階FIR濾波器中，最優(yōu)濾波器的均方誤差值是最小的，從這個(gè)意義上說(shuō)它是最優(yōu)的；與非最優(yōu)濾波相比，最優(yōu)濾波的優(yōu)勢(shì)在于能對(duì)濾波的質(zhì)量（逼近的好壞

65、）做出評(píng)價(jià)；E［|e(n)|2］min與Sss(z)和Svv(z)重疊部分大小有關(guān)；最小均方誤差比較：非因果IIR<因果IIR<FIR維納濾波的最小均方誤差,2.4 維 納 預(yù) 測(cè),本節(jié)討論的主要問(wèn)題及方法預(yù)測(cè)的可能性維納預(yù)測(cè)的計(jì)算純預(yù)測(cè)一步線(xiàn)性預(yù)測(cè)的時(shí)域解,1、本節(jié)討論的主要問(wèn)題及方法,討論的主要問(wèn)題：本節(jié)將討論維納預(yù)測(cè)器，以觀(guān)測(cè)到的全部過(guò)去數(shù)據(jù)來(lái)估計(jì)當(dāng)前或?qū)?lái)的值解決方法：以均方誤差最小為估計(jì)原則,,

66、,,,圖2.4.1(b) 維納預(yù)測(cè)器,圖2.4.1(a) 維納濾波器,2、預(yù)測(cè)的可能性,信號(hào)可以預(yù)測(cè)是由于信號(hào)內(nèi)部存在關(guān)聯(lián)性。數(shù)據(jù)間關(guān)聯(lián)越密切，預(yù)測(cè)越準(zhǔn)確；完全不關(guān)聯(lián)，則無(wú)法預(yù)測(cè)。,輸入：,輸出：,x(n)在各不同時(shí)間點(diǎn)上的值的相關(guān)性是起因于B(z)的慣性。由觀(guān)測(cè)到的x(n)的所有過(guò)去值和當(dāng)前值來(lái)估計(jì)將來(lái)值 時(shí)：如果

67、 ，則 僅由B(z)的慣性決定，如果 ，則 將由B(z)的慣性和 共同決定；,隨機(jī)信號(hào)預(yù)測(cè)的特點(diǎn)：以信號(hào)的統(tǒng)計(jì)特性作為預(yù)測(cè)的主要依據(jù)；不可能作預(yù)測(cè)誤差為零的絕對(duì)精確的預(yù)測(cè)；實(shí)際信號(hào)通常帶有噪聲干擾，使得預(yù)

68、測(cè)和濾波聯(lián)系在一起，成為帶濾波的預(yù)測(cè)。,3、 維納預(yù)測(cè)的計(jì)算,同理，要使預(yù)測(cè)誤差的均方值為最小，須滿(mǎn)足,其中，hk表示h(k)。,,,即,,,非因果維納預(yù)測(cè)器的最佳解為,因果維納預(yù)測(cè)器的最佳解為,維納預(yù)測(cè)的最小均方誤差為,維納預(yù)測(cè)的求解和維納濾波器的求解方法是一致的。,4、 純預(yù)測(cè) 假設(shè)x(n)=s(n)+v(n)，純預(yù)測(cè)問(wèn)題是在v(n)=0情況下對(duì)s(n+N), N＞0的預(yù)測(cè)，此時(shí)x(n)=s(n)。  因果情況下，假設(shè)