應(yīng)用數(shù)學(xué)專題講座

1、時(shí)間序列分析,隨機(jī)過程的概念 在概率論的基本理論中，我們首先建立了概率空間，進(jìn)一步定義了隨機(jī)變量和它的分布函數(shù)，用以刻劃隨機(jī)現(xiàn)象的統(tǒng)計(jì)規(guī)律性。在那里，我們討論的是一個(gè)或者幾個(gè)隨機(jī)變量。但在實(shí)際中，我們還需要討論一族無窮多個(gè)按照一定關(guān)系聯(lián)系起來的隨機(jī)變量。例如，考慮電話交換臺(tái)接到用戶的呼喚次數(shù)的問題。如果用 表示在時(shí)刻t以前交換臺(tái)接到用戶的呼喚總次數(shù)，于是，對(duì)于固定資產(chǎn)的時(shí)刻t而言， 是一個(gè)隨機(jī)變

2、量。而當(dāng)長時(shí)間觀察并記錄可得 ，它就是一族無窮多個(gè)隨機(jī)變量構(gòu)成的時(shí)間函數(shù)。也就是說，描述交換臺(tái)接到用戶的呼喚次數(shù)，需要用一族依賴于時(shí)間的隨機(jī)變量。通常我們把這樣的一族隨機(jī)變量稱為隨機(jī)過程。,,,,定義1 設(shè) 是一個(gè)概率空間，T是一個(gè)參數(shù)集， 是 上的函數(shù)，如果對(duì)于每

3、一個(gè) ， 都是 上的隨機(jī)變量，則稱隨機(jī)變量族 為定義在 上的隨機(jī)過程。簡記為,,,,,,,,,隨機(jī)過程的有限維分布函數(shù)族 研究隨機(jī)現(xiàn)象，主要是研究它的統(tǒng)計(jì)規(guī)律性。對(duì)于隨機(jī)過程，如何刻劃它的統(tǒng)計(jì)規(guī)律性呢？在概率論中我們已經(jīng)知道，一個(gè)隨機(jī)變量的統(tǒng)計(jì)規(guī)律性完全由它的分布函數(shù)所刻劃，有限個(gè)隨機(jī)

4、變量的統(tǒng)計(jì)規(guī)律性完全被它們的聯(lián)合分布函數(shù)所刻劃。既然隨機(jī)過程可視為一族隨機(jī)變量，是否也可以用一個(gè)無窮多維的聯(lián)合分布函數(shù)來刻劃它呢？由測(cè)度論的理論可知，使用無窮維分布函數(shù)的方法是行不通的?？尚械霓k法，就是采用有限維分布函數(shù)族來刻劃隨機(jī)過程的統(tǒng)計(jì)特性。,定義2 設(shè)隨機(jī)過程的狀態(tài)空間為R，對(duì)于任意自然數(shù)n以及任意參數(shù) ，n個(gè)隨機(jī)變量

5、 的聯(lián)合分布函數(shù)為 所有這些分布函數(shù)的集合 稱為隨機(jī)過程的有限維分布函數(shù)族。,,,,,例1 利用重復(fù)拋硬幣的試驗(yàn)定義一個(gè)隨機(jī)過程 設(shè)“出現(xiàn)正面”和“出現(xiàn)反面”的概率各為0.5，試求它的一維分布函數(shù) ，和二維分布函數(shù)族。,,,,隨機(jī)過程的數(shù)字特征 定義3 設(shè) 是一隨機(jī)過程，對(duì)任意固定

6、的t，隨機(jī)變量X(t)的數(shù)學(xué)期望和方差都存在,我們分別稱 為隨機(jī)過程的均值函數(shù)和方差函數(shù),,,,例2 求例1中的隨機(jī)過程的均值函數(shù)與方差函數(shù),定義4 設(shè) 是一隨機(jī)過程，對(duì)任意固定的t1和t2，

7、隨機(jī)變量 的二階原點(diǎn)矩和協(xié)方差都存在 ,我們分別稱 為隨機(jī)過程的（自）相關(guān)函數(shù)和（自）協(xié)方差函數(shù),,,,,,,例3:求例1中的隨機(jī)過程的相關(guān)函數(shù)和協(xié)方差函數(shù),平穩(wěn)隨機(jī)過程平穩(wěn)隨機(jī)過程是一類應(yīng)用廣泛的隨機(jī)過程。

8、它在通訊、生物、自動(dòng)控制、系統(tǒng)論、信息論、經(jīng)濟(jì)領(lǐng)域等方面有著廣泛的應(yīng)用。從它的有限維分布族和數(shù)字特征來考慮，平穩(wěn)隨機(jī)過程又分為強(qiáng)平穩(wěn)過程和弱平穩(wěn)過程。我們只介紹弱平穩(wěn)過程,定義5 設(shè) 是一隨機(jī)過程，如果滿足(1)對(duì)任一的t， 為常數(shù)；(2)對(duì)任一的t， ；(3)對(duì)任一的

9、 與t無關(guān)，則稱為弱平穩(wěn)過程。,,,,,,例4 設(shè)隨機(jī)過程 ，其中 是相互獨(dú)立的二元隨機(jī)變量，它們分別以 的概率取值-1,2。(1)求隨機(jī)過程 的均值函數(shù)和相關(guān)函數(shù)；

10、(2)證明 是弱平穩(wěn)過程但不是強(qiáng)平穩(wěn)過程,,,,,,對(duì)于弱平穩(wěn)過程，由于均值函數(shù)為常數(shù)m，將過程進(jìn)行平移，可以使得它的均值為零。其統(tǒng)計(jì)性質(zhì)不會(huì)發(fā)生改變，下面我們提到弱平穩(wěn)過程都是零均值的，并且我們還把弱平穩(wěn)過程叫做平穩(wěn)過程。一類簡單的平穩(wěn)時(shí)間序列，稱為平穩(wěn)白噪聲序列，簡稱白噪聲，如果平穩(wěn)時(shí)間序列

11、的協(xié)方差函數(shù)（也是相關(guān)函數(shù)）為,,,平穩(wěn)時(shí)間序列的均值函數(shù)和協(xié)方差函數(shù)的估計(jì) 如果經(jīng)檢驗(yàn)證實(shí)所研究的時(shí)間序列是平穩(wěn)的，那么一個(gè)重要的問題是如何估計(jì)它的均值函數(shù)和協(xié)方差函數(shù)。首先是均值函數(shù)的估計(jì)。設(shè) 是平穩(wěn)時(shí)間序列，記 。固定t1，可以這樣估計(jì)m：取 的許多樣本軌道，將

12、這些軌道在 處的所有的值取平均作為的估計(jì)。這種方法不但非常繁瑣，并且在實(shí)際中我們觀測(cè)到的僅是時(shí)間序列的一個(gè)樣本軌道，因此，在實(shí)際中是行不通的?？梢赃@樣設(shè)想：因?yàn)闀r(shí)間序列是平穩(wěn)的，很自然地，希望用一個(gè)很長時(shí)期觀測(cè)的樣本軌道來估計(jì)平穩(wěn)序列的統(tǒng)計(jì)特征。這種性質(zhì)稱為平穩(wěn)序列的遍歷性。對(duì)此可以這樣理解：對(duì)于具有遍歷性的平穩(wěn)序列，只要觀測(cè)的時(shí)間比較長，它的每個(gè)軌道都能“遍歷”到各種可能的狀態(tài)，因而一個(gè)軌道按

13、時(shí)間的平均可以近似地代替它在固定時(shí)刻取值的統(tǒng)計(jì)平均。,,,,,定義6設(shè) 是平穩(wěn)時(shí)間序列,如果隨機(jī)變量（稱為過程的時(shí)間平均）的均方極限為m，即 則稱 具有均值遍歷性。,,,,,定義7設(shè) 是平穩(wěn)時(shí)間序列,如果隨機(jī)變量的

14、均方極限為 ，即 則稱 具有相關(guān)函數(shù)遍歷性。,,,,,,,平穩(wěn)時(shí)間序列的線性模型我們常見的平穩(wěn)時(shí)間序列的線性模型有下面三種形式：(1)AR序列，即自回歸序列；(2)MA序列，即滑動(dòng)平均序列；(3)ARMA序列，即自回歸滑動(dòng)平均序列?？梢宰C明，上述三種序列模型均具有遍歷性

15、，因此，可以通過它的一個(gè)樣本軌道來估計(jì)自協(xié)方差函數(shù)和相關(guān)函數(shù)。下面，我們給出零均值平穩(wěn)時(shí)間序列的線性模型的定義,1．AR序列模型一個(gè)零均值平穩(wěn)時(shí)間序列如果在t時(shí)刻的數(shù)值可表示成過去p個(gè)時(shí)刻上的數(shù)值的線性組合再加上t時(shí)刻的白噪聲，即 其中 是零均值、方差 為的白噪聲，并且它與 不相關(guān)。我們稱為階數(shù)為p的自

16、回歸模型，簡記為 。常數(shù) 叫做自回歸系數(shù)，且 。,,,,,,,,,,2．MA序列模型一個(gè)零均值平穩(wěn)時(shí)間序列滿足 其中 是零均值、方差 為的白噪聲。我們稱為階數(shù)為q的滑動(dòng)平均序列 ，簡記為 。常數(shù)叫做自回歸系

17、數(shù)向量，且 。,,,,,,,,,,,,,,3．ARMA序列模型一個(gè)零均值平穩(wěn)時(shí)間序列滿足 其中 是零均值、方差 為的白噪聲。我們稱為階數(shù)為p,q的自回歸滑動(dòng)平均序列 ，簡記為 ARMA(p,q) 。其中,,,,,,,,,,,,,,,,平穩(wěn)時(shí)間序列的線性模型的參數(shù)估計(jì)1．AR序列模型的參數(shù)估計(jì)我們可以采用多

18、元線性回歸模型的參數(shù)估計(jì)方法。取 得到,,,,記,,,,,方程可寫為 參數(shù)的最小二乘估計(jì)為,,,,并利用相關(guān)函數(shù)的估計(jì)式,有因此有,,,,,,,2．MA序列模型的參數(shù)估計(jì) 這種序列模型的相關(guān)函數(shù)為 相關(guān)函數(shù)可用其估計(jì)式代替。方程組的解就是參數(shù)的估計(jì)值。不過它是一個(gè)非線性方程組，一般難以求得它的精確解，通常采用數(shù)值解法,,,,3．ARMA序列模型的參

19、數(shù)估計(jì)它的參數(shù)的求解方法是分兩步進(jìn)行：首先求 的估計(jì)值?？捎上率剿愕?,,,,然后再求 的估計(jì)值,令則 也是零均值平穩(wěn)時(shí)間序列，且這是關(guān)于平穩(wěn)時(shí)間序列 的模型。由此可求得

20、 的估計(jì)值。而 的樣本值算式為,,,,,,,,,,平穩(wěn)時(shí)間序列的線性模型的預(yù)報(bào)所謂預(yù)報(bào)是指已經(jīng)知道一個(gè)時(shí)間序列現(xiàn)在和過去的數(shù)值，對(duì)將來的數(shù)值作估計(jì)。設(shè)平穩(wěn)時(shí)間序列為 ，若已知觀測(cè)到的數(shù)值

21、 ，要估計(jì) 的數(shù)值，稱為在k時(shí)刻作l步預(yù)報(bào)。 的估計(jì)值記為 或 ，稱為l步預(yù)報(bào)值。平穩(wěn)序列的預(yù)報(bào)有多種方法，在這時(shí)，我們采用最小方差線性估計(jì)的原則。用 對(duì) 作估計(jì)，取,,,,,,,,,,使下面推出的預(yù)報(bào)公式，是建立在一個(gè)基本引理的基礎(chǔ)上?；疽恚喝粢呀?jīng)觀測(cè)到平穩(wěn)時(shí)間序列

22、 的數(shù)值，則(1)將來第k+l時(shí)刻的白噪聲估計(jì)值 ；(2)現(xiàn)在或過去第時(shí)刻平穩(wěn)序列估計(jì)值。這些結(jié)論直觀上是比較明顯的。在這時(shí)，我們不給證明。下面我們分三種模型分別介紹其預(yù)報(bào)公式。,,,,,1．AR序列模型的預(yù)報(bào)公式當(dāng) 時(shí)當(dāng) 時(shí),,,,,2．MA(q

23、)序列模型的預(yù)報(bào)公式在上式中出現(xiàn)白噪聲的估計(jì)值，如何根據(jù) 的數(shù)值來計(jì)算白噪聲的估計(jì)值呢我們采用下面的方法,取 分別取 ，用令 ，得到,,,,,,,,,,3．ARMA(p,q)序列模型的預(yù)報(bào)公式與前面兩種模型的預(yù)報(bào)方法一樣 ,取這也是一種遞推公式，在算二