本時(shí)間序列分析第三章(下)

1、時(shí)間序列分析,第三章 ARMA模型的特性,本章共有四節(jié)內(nèi)容：,※第一節(jié) 格林函數(shù)和平穩(wěn)性※第二節(jié) 逆函數(shù)和可逆性※第三節(jié) 自協(xié)方差函數(shù)※第四節(jié) 自譜,第三節(jié) 自協(xié)方差函數(shù),一、自相關(guān)函數(shù),2. 理論自相關(guān)函數(shù)與樣本自相關(guān)函數(shù),1.自相關(guān)函數(shù)的引入,3. 格林函數(shù)與自協(xié)方差函數(shù)之間的關(guān)系,,二、偏自相關(guān)函數(shù),4. ARMA模型自協(xié)方差函數(shù)及其特點(diǎn),,一、自相關(guān)函數(shù),1. 自相關(guān)函數(shù)的引入,AR(1)模

2、型：,Xt與Xt-j雖不直接相關(guān)，但有一定的相關(guān)關(guān)系，這就是我們這一節(jié)將要給大家介紹的自相關(guān)函數(shù)。,問(wèn)題：Xt與Xt-2是否有相關(guān)關(guān)系？有怎樣的相關(guān)關(guān)系？怎樣去度量這種相關(guān)關(guān)系？對(duì)MA(1)模型呢？,2. 理論自相關(guān)函數(shù)與樣本自相關(guān)函數(shù),Xt：零均值平穩(wěn)時(shí)間序列；任何一個(gè)ARMA模型都可轉(zhuǎn)化為等價(jià)的零均值A(chǔ)RMA模型。,（1）自協(xié)方差函數(shù)cov(Xt，Xt-k)＝（若Xt零均值平穩(wěn)）E(XtXt-k)=γk,（2）理論自相關(guān)函數(shù)

3、,自協(xié)方差函數(shù) cov(Xt，Xt-k)=γk,（3）樣本自相關(guān)函數(shù)（注：樣本數(shù)據(jù)也先進(jìn)行零均值化處理）,自相關(guān)函數(shù),,,由此可知，自相關(guān)函數(shù)和自協(xié)方差函數(shù)是關(guān)于零點(diǎn)對(duì)稱的。一個(gè)正態(tài)平穩(wěn)過(guò)程Xt能夠被其均值和協(xié)方差函數(shù)（或等價(jià)地，均值、方差和自相關(guān)函數(shù)）完全刻劃。,一個(gè)平穩(wěn)過(guò)程的自協(xié)方差函數(shù)具有以下性質(zhì)：,（4）自協(xié)方差函數(shù)和自相關(guān)函數(shù)的性質(zhì),（5）協(xié)差陣,(6) 對(duì)樣本自相關(guān)函數(shù)的說(shuō)明,,這是因?yàn)楹笳叩姆讲钜∮谇罢?；后者是正定?/p>

4、列，協(xié)差陣為正定陣，對(duì)平穩(wěn)序列而言，自協(xié)方差的正定性是最本質(zhì)的，常常是相關(guān)分析和參數(shù)估計(jì)的條件。,,設(shè)隨機(jī)變量Xt，Xt-1，Xt-2，…Xt-n+1的任一線性函數(shù)為：,由于對(duì)平穩(wěn)過(guò)程而言，有,可利用協(xié)方差的運(yùn)算法則得到Lt的方差,若li不全為0，則上式必然大于0（方差大于等于0）。,所以Lt的方差為,由于對(duì)任意不全為零的常數(shù),有,相應(yīng)的，自協(xié)方差函數(shù)和自相關(guān)函數(shù)也都是正定的。,由此得知任何平穩(wěn)過(guò)程的自協(xié)方差陣和自相關(guān)陣都是正定的。,對(duì)

5、一般的Xt，k步滯后自相關(guān)ρk最令人滿意的估計(jì)是其中 k＝0，1，2，…，N；該式是自協(xié)方差 的估計(jì)，稱為樣本自協(xié)方差函數(shù)，相應(yīng)的自相關(guān)估計(jì)稱為樣本自相關(guān)函數(shù)。,,,例1：,Xt的樣本數(shù)據(jù)如下：求其樣本自協(xié)方差函數(shù)和樣本自相關(guān)函數(shù)Xt：47 64 23 71 38 64 55 41 59 48,計(jì)算步驟（1）計(jì)算樣本均值；（2）對(duì)原序列Xt進(jìn)行零均值化處理，得到y(tǒng)t；（3）計(jì)算yt的樣本自協(xié)方差

6、函數(shù)（4）計(jì)算yt的樣本自相關(guān)函數(shù) （見Excel文件）,,內(nèi)容回顧 :,對(duì)正態(tài)零均值平穩(wěn)Xt,1．理論自協(xié)方差函數(shù) :,2．理論自相關(guān)函數(shù),3．理論協(xié)差陣、理論自相關(guān)陣：對(duì)稱性、正定性,4．樣本自協(xié)方差函數(shù)和樣本自相關(guān)函數(shù),5．樣本自協(xié)方差函數(shù)是根據(jù)樣本計(jì)算的理論自協(xié)方差函數(shù)的估計(jì)值；樣本自相關(guān)函數(shù)是根據(jù)樣本計(jì)算的理論自相關(guān)函數(shù)的估計(jì)值。 它們具有“時(shí)間序列分析”課程所特有的特點(diǎn)，與一般估計(jì)不同，計(jì)算時(shí)應(yīng)特別注意。可

7、利用Excel一步步計(jì)算獲得，也可通過(guò)其它專用軟件計(jì)算得到。,6．要求大家掌握：,①ARMA模型的理論自協(xié)方差函數(shù)（理論自相關(guān)函數(shù)）的算法、形式和特點(diǎn)；②任給一個(gè)時(shí)間序列（某過(guò)程的樣本實(shí)現(xiàn)）計(jì)算其樣本自協(xié)方差函數(shù)（樣本自相關(guān)函數(shù)）,ARMA模型,,某隨機(jī)過(guò)程,,一個(gè)樣本實(shí)現(xiàn),,時(shí)間序列,,理論值,樣本值,,,3. 格林函數(shù)與自協(xié)方差函數(shù)之間的關(guān)系,例1：求AR(1)的自協(xié)方差函數(shù)及自相關(guān)函數(shù),結(jié)論：AR(1)的格林函數(shù)即是AR(1)的

8、自相關(guān)函數(shù),例2：求MA(1)的自協(xié)方差函數(shù)及自相關(guān)函數(shù),結(jié)論：MA(1)的格林函數(shù)和MA(1)的自相關(guān)函數(shù)有相同的特點(diǎn),那么：格林函數(shù)與自協(xié)方差函數(shù)之間到底有怎樣的關(guān)系？,從自協(xié)方差的定義出發(fā)，利用模型的傳遞形式來(lái)考察格林函數(shù)與自協(xié)方差函數(shù)之間的關(guān)系。,得到如下結(jié)論：,例3：利用格林函數(shù)與自協(xié)方差函數(shù)之間的關(guān)系，重新計(jì)算AR(1)和MA(1)的自協(xié)方差函數(shù)及自相關(guān)函數(shù)。,即：格林函數(shù)和自協(xié)方差函數(shù)滿足下面等式：,例4：計(jì)算MA(q)的

9、自相關(guān)函數(shù)。,MA(q)的Gj為：,其自相關(guān)函數(shù)為：,,4. ARMA模型自協(xié)方差函數(shù)及其特點(diǎn),AR(1)：,MA(1)：,有：,例5：求AR(2)模型的自相關(guān)函數(shù)。,例6：對(duì)下面模型，求其各自的自相關(guān)函數(shù),例7：寫出下面模型的自協(xié)方差函數(shù)并說(shuō)明其自相關(guān)函數(shù)的特點(diǎn)。,自相關(guān)函數(shù)是拖尾的。,我們對(duì)表3.1給出的數(shù)據(jù)計(jì)算其樣本自相關(guān)函數(shù),表3.1 化工過(guò)程一組70個(gè)順次產(chǎn)量的序列,取表中前10個(gè)數(shù)據(jù)，利用Excel計(jì)算得到r1為-0.789

10、56，利用Minitab計(jì)算該時(shí)間序列的前18個(gè)樣本自相關(guān)值，得如下結(jié)果：,ACF -1.0 -0.8 -0.6 -0.4 -0.2 0.0 0.2 0.4 0.6 0.8 1.0 + ---- + ---- + ---- + ---- + ----

11、 + ---- + ---- + ---- + ---- + ---- + 1 -0.390 XXXXXXXXXXX 2 0.304 XXXXXXXXX 3 -0.166

12、 XXXXX 4 0.071 XXX 5 -0.097 XXX

13、 6 -0.047 XX 7 0.035 XX 8 -0.043

14、 XX 9 -0.005 X 10 0.014 X 11 0.110

15、 XXXX 12 -0.069 XXX 13 0.148

16、 XXXXX 14 0.036 XX 15 -0.007 X 16 0.173

17、 XXXXX 17 -0.111 XXXX 18 0.020

18、 X,重要結(jié)論：,可以證明：AR(p)模型自相關(guān)函數(shù)都是拖尾的，MA(q)模型自相關(guān)函數(shù)q步截尾，ARMA(p,q)模型的自相關(guān)函數(shù)拖尾。ARMA模型自相關(guān)函數(shù)的變化特點(diǎn)與格林函數(shù)相同，其本質(zhì)是自相關(guān)函數(shù)ρk 也滿足AR部分的齊次差分方程。,此種性質(zhì)稱為截尾。對(duì)MA(q)模型，自相關(guān)函數(shù)q步后截尾，簡(jiǎn)稱q步截尾。,2. MA(1)模型：,1. AR(1)模型： ，當(dāng)

19、 時(shí)，模型平穩(wěn)，此時(shí)自相關(guān)函數(shù)逐漸趨于零，其速度與自回歸參數(shù)有關(guān)。這種性質(zhì)稱為拖尾。若參數(shù)為正，呈指數(shù)衰減到零，若參數(shù)為負(fù)，正負(fù)交錯(cuò)衰減到零。,二、偏自相關(guān)函數(shù),3. 偏自相關(guān)函數(shù)的概率意義,1. 偏自相關(guān)函數(shù)的引入,2. 偏自相關(guān)函數(shù)的一般定義,4. 偏自相關(guān)函數(shù)的計(jì)算,5. 利Yule－Wolker方程計(jì)算,,1. 偏自相關(guān)函數(shù)的引入,對(duì)MA(q)模型，其自相關(guān)函數(shù)是q步截尾的，這是MA的特有標(biāo)志，但AR和ARMA模型，其自相

20、關(guān)函數(shù)卻都是拖尾的。 是否有某種統(tǒng)計(jì)量能體現(xiàn)AR的獨(dú)有特性？有沒(méi)有一種函數(shù)，對(duì)MA模型是拖尾的，對(duì)AR模型卻是截尾的？回答是肯定的，這就是我們將要介紹的偏自相關(guān)函數(shù)。,,用φkj記k階回歸表達(dá)式中的第j個(gè)系數(shù)，φkk就是最后一個(gè)系數(shù)。利用線性最小二乘估計(jì)得到其中的系數(shù)，即對(duì)k，可選擇系數(shù),達(dá)到極小值的系數(shù) （k階自回歸中Xt-k的系數(shù)）稱為偏自相關(guān)函數(shù)。,2. 偏自相關(guān)函數(shù)的一般定義,使得：,Xt：零均值平穩(wěn)時(shí)間

21、序列，由Xt-1，Xt-2，…，Xt-k對(duì)Xt做回歸，,即有：,AR(1)：Xt只與Xt-1直接相關(guān)，與Xt-j(j>1)不直接相關(guān)，但其自相關(guān)函數(shù)卻是拖尾的。也即Xt與Xt-2有關(guān)系。這是因?yàn)閄t與Xt-1相關(guān)，而Xt-1又與Xt-2相關(guān)， Xt由于Xt-1的緣故與Xt-2相關(guān)。事實(shí)上， Xt剔除Xt-1的影響后與Xt-2可能不相關(guān)。 剔除中間變量影響后的相關(guān)就是偏自相關(guān)。,3. 偏自相關(guān)函數(shù)的概率意義,所以，對(duì)

22、AR(P)模型，偏自相關(guān)函數(shù)p階截尾。即,,從另一角度來(lái)看，對(duì)AR模型來(lái)說(shuō)，第k個(gè)偏自相關(guān)系數(shù)就是AR模型中Xt-k的回歸系數(shù)，那么對(duì)于AR(p)模型，有,即，對(duì)AR(P)模型，偏自相關(guān)函數(shù)p階截尾。,總的相關(guān)關(guān)系：,直接相關(guān)＋間接相關(guān),自相關(guān)函數(shù)是不考慮是否有中間影響的Xt間的總的相關(guān)關(guān)系。 偏自相關(guān)函數(shù)是剔除中間影響后的相關(guān)，是一種直接相關(guān)關(guān)系，也即描述Xt與Xt-k之間部分的相關(guān)關(guān)系，也即是一種條件相關(guān)。,4.

23、偏自相關(guān)函數(shù)的計(jì)算,5. 利用Yule－Wolker方程計(jì)算,根據(jù)偏自相關(guān)函數(shù)的一般定義和極值原理，對(duì),關(guān)于,求導(dǎo)，得到：,最后得到：,將矩陣展開為方程組，即為Yule-Walker方程。,對(duì)k＝1，2，3，…依次求解Yule-Walker方程，得到,一個(gè)p階自回歸過(guò)程，當(dāng)k小于或等于p時(shí)，偏自相關(guān)函數(shù)φkk不為零，而當(dāng)k大于p時(shí)，偏自相關(guān)函數(shù)φkk為零，即AR(p)過(guò)程的偏自相關(guān)函數(shù)是p階截尾的。 通過(guò)計(jì)算推導(dǎo)可以證

24、明，MA模型和ARMA模型的偏自相關(guān)函數(shù)都是拖尾的。 根據(jù)MA模型的逆轉(zhuǎn)形式可知，偏自相關(guān)函數(shù)有無(wú)窮多個(gè)；若模型可逆，則PACF拖尾。,,對(duì)于平穩(wěn)可逆的ARMA過(guò)程：（1）ARMA(p,q)過(guò)程的ACF會(huì)從滯后期q開始衰減。即ACF滿足AR部分的齊次線性差分方程，其模式將會(huì)按特征根所表示的形式變化。（2） ARMA(p,q)過(guò)程的PACF會(huì)從滯后期p開始衰減。PACF會(huì)依照模型

25、 的PACF系數(shù)的形式變化。,,,,,第四節(jié) 自譜,目前國(guó)內(nèi)外通常是從兩種角度出發(fā)對(duì)時(shí)間序列進(jìn)行分析，一種是將時(shí)間序列看成是依時(shí)間順序發(fā)展的數(shù)據(jù)列，根據(jù)序列前后期之間存在的相關(guān)關(guān)系對(duì)時(shí)間序列進(jìn)行更深層次的分析，這種分析稱為時(shí)域分析。另一種是從波的角度出發(fā)，將時(shí)間序列看成是不同的波的疊加，并通過(guò)研究波動(dòng)的頻率特征來(lái)刻劃時(shí)間序列的特性，這種分析稱為時(shí)間序列的頻域分析。,在時(shí)域分析中，自相關(guān)函數(shù)是主要工具，是分析平穩(wěn)時(shí)間序列X

26、t的統(tǒng)計(jì)規(guī)律的數(shù)字特征。 在頻域分析中，譜密度是主要工具，是分析平穩(wěn)時(shí)間序列Xt的統(tǒng)計(jì)規(guī)律的數(shù)字特征。 兩種分析方法相互補(bǔ)充，互不矛盾，也是相互驗(yàn)證，是一致的。,時(shí)間序列分析方法：,時(shí)域分析：在時(shí)間域用有限參數(shù)模型描述時(shí)間序列的相關(guān)結(jié)構(gòu)，并通過(guò)對(duì)模型的統(tǒng)計(jì)分析更進(jìn)一步掌握序列的特性，主要工具是差分方程及自相關(guān)函數(shù)。,頻域分析：在頻率域中考察時(shí)間序列，將時(shí)間序列看成是由不同頻率的正弦、余弦波組成，并通過(guò)研究波動(dòng)的頻率特征

27、來(lái)刻劃時(shí)間序列的特性，主要工具是傅立葉變換及譜、譜密度。,時(shí)域和頻域是以不同的方式刻畫時(shí)間序列的特性，時(shí)域方法直接分析觀測(cè)到的依時(shí)間變化的數(shù)據(jù)，頻域方法是將時(shí)間序列看成是不同諧波的疊加，著重研究波動(dòng)的頻率特征。,第四節(jié) 自譜,第3章 小結(jié),1．對(duì)任何一個(gè)ARMA模型，（1）能夠?qū)懗龌蚯蟪銎涓窳趾瘮?shù)的隱式解、顯式解及其傳遞形式；（2）能夠?qū)懗龌蚯蟪銎淠婧瘮?shù)的隱式解、顯式解及其逆轉(zhuǎn)形式；（3）能判斷出該模型是否平穩(wěn)；（4）能判斷出

28、該模型是否可逆；（5）能夠求出其理論自協(xié)方差和理論自相關(guān)函數(shù)的形式；（6）能夠說(shuō)出其自相關(guān)函數(shù)和偏自相關(guān)函數(shù)的特點(diǎn)。,2．對(duì)任何一個(gè)時(shí)間序列，會(huì)計(jì)算其樣本自相關(guān)函數(shù)和偏自相關(guān)函數(shù)，并據(jù)此初步判斷該序列屬于什么模型。,3．掌握自相關(guān)函數(shù)和偏自相關(guān)函數(shù)的概念和含義，平穩(wěn)和可逆的含義。,例題：,1．寫出ARMA（2，2）模型的格林函數(shù)的隱式解和顯式解、逆函數(shù)的隱式解和顯式解、平穩(wěn)性條件和可逆性條件。,2．寫出ARMA（3，4）模型的平穩(wěn)性