異方差與自相關(guān)問題

1、第五章　異方差與自相關(guān)問題,除了本章討論所涉及的同方差性與不自相關(guān)性以外，關(guān)于線性回歸模型的其它假定在本章中都成立。,,——異方差模型及其估計(jì)；,——自相關(guān)模型及其估計(jì)；,——廣義最小平方估計(jì)；,——異方差模型、自相關(guān)模型的預(yù)測。,§5.1　廣義最小平方法,同方差且不自相關(guān),,異方差或自相關(guān),正定,,,,（~）,——（~）模型滿足關(guān)于線性回歸模型的全部基本假定，（~）模型的普通最小平方估計(jì)將給出系數(shù) 的線性無偏最小

2、方差估計(jì)。,,三個(gè)所謂協(xié)方差矩陣,（ａ）OLS估計(jì) 的協(xié)方差矩陣,,（ｂ）廣義最小平方估計(jì) 的協(xié)方差矩陣,,（ｃ）偽協(xié)方差矩陣,,§5.1　廣義最小平方法,§5.2 異方差問題,（一）異方差概念,,,,不全相同,,異方差概念理解,（二）異方差的檢測,1. 圖示法,,設(shè)變量 與 有 組觀測值，,,,,2. 等級相關(guān)檢驗(yàn) :,等級相關(guān)系數(shù),,,,,,按照某種性能，同方向分

3、別指定各觀測值的等級：,,并由此產(chǎn)生等級變量 與 。 與 的線性相關(guān)系數(shù)，稱為 與 的等級相關(guān)系數(shù) 。,,,§5.2 異方差問題,等級相關(guān)檢驗(yàn),（ｄ） 近似服從自由度為 的 分布。根據(jù)顯著性水平 及自由度 ，查取 分布臨界值 。如果 ，則判定模型存在單調(diào)形式的異方差，否則拒絕異方差。,(ａ)

4、 完成模型的OLS估計(jì)，獲取殘差數(shù)據(jù) ；,(ｂ) 選擇可能與異方差有關(guān)的解釋變量 ，計(jì)算變量 與變量 的等級相關(guān)系數(shù) ；,(ｃ) 計(jì)算統(tǒng)計(jì)量 ；,§5.2 異方差問題,3. 檢驗(yàn),（ａ）選擇可能與異方差有關(guān)的解釋變量 。將 的樣本觀測值由小到大進(jìn)行排列，然后從這一排列的中心刪去約

5、 的觀測值，并使剩余的兩個(gè)子列具有相同數(shù)目（ ）的觀測值。再對模型中的其余變量，以 的觀測值序號為準(zhǔn)，進(jìn)行相應(yīng)的刪與留，形成Ａ、Ｂ兩個(gè)子樣本；,（ｂ）兩個(gè)子樣本分別進(jìn)行OLS估計(jì)，獲取兩個(gè)殘差平方和：,（ｃ）構(gòu)造統(tǒng)計(jì)量 或 ；,（d）根據(jù)顯著性水平 ，以及雙自由度 ，查取 分布臨

6、界值 。若經(jīng)比較 ，則接受模型存在單調(diào)形式的異方差，否則拒絕異方差。,§5.2 異方差問題,§5.3　異方差模型的估計(jì),（一）廣義最小平方估計(jì)對于異方差模型的意義,,,,對于與具有較小方差相應(yīng)的殘差，給以較大的權(quán)數(shù)，使其在確定回歸函數(shù)時(shí)，起較為重要的作用?；蛘哒f使回歸函數(shù)主要參照那些對應(yīng)較小方差的樣本點(diǎn)而被決定。,（二）參數(shù) 的估計(jì),,,散點(diǎn)圖（

7、 ）,,取 為函數(shù) 中的可變部分 ：,幾種常見的可供參考的函數(shù)形式：,,,,,§5.3　異方差模型的估計(jì),（三）異方差模型的廣義最小平方估計(jì),,,,,,,,§5.3　異方差模型的估計(jì),（四）異方差模型示例5.1,設(shè) Y 表示商場利潤總額，X表示商場銷售收入。北京市20家最大的百貨商店的銷售資料 ,商場按照銷售收入規(guī)模從大到小排序。,,殘差圖提示遞增形式的異方差。,§5.3

8、　異方差模型的估計(jì),例5.1 異方差性的等級相關(guān)檢驗(yàn),,,,等級相關(guān)檢驗(yàn)表明模型存在遞增形式的異方差。,例5.1 異方差性的 檢驗(yàn),,按照銷售收入水平的排序，從中心刪去第９-12號樣本點(diǎn)，形成兩個(gè)子樣本A與B：,,,,檢驗(yàn)表明模型存在遞增形式的異方差。,§5.3　異方差模型的估計(jì),例5.1 的廣義最小平方估計(jì),試探性考慮異方差的 形式， 。經(jīng)過若干次試驗(yàn)最后

9、選取,§5.3　異方差模型的估計(jì),施實(shí)變換,,,,,,（~）模型的OLS估計(jì)結(jié)果：,（-2.087） （6.636）,,,§5.3　異方差模型的估計(jì),例5.1 的廣義最小平方估計(jì)：,,（-2.087）（6.636）,廣義最小平方估計(jì)的殘差平方和：,,OLS估計(jì)的殘差平方和：,,§5.3　異方差模型的估計(jì),§5.4 自相關(guān)問題,（一）自相關(guān)概念,,,,正自相關(guān)， 傾向于同方向變化

10、；,負(fù)自相關(guān)， 傾向于反方向變化。,,自相關(guān)概念理解,（二）一階自回歸形式的自相關(guān),,,,,,§5.4 自相關(guān)問題,一階自回歸式的自相關(guān)將具有特點(diǎn)：,間距較近的項(xiàng)，具有較強(qiáng)的相關(guān)性；,,相鄰的兩項(xiàng) 正自相關(guān)性最強(qiáng)，最傾向于保持相同的符號；,相鄰的兩項(xiàng) 負(fù)自相關(guān)性最強(qiáng)，最傾向于保持相反的符號；,§5.4 自相關(guān)問題,（三）自相關(guān)檢測,1. 圖示法,散點(diǎn)圖（ ）,,§5.

11、4 自相關(guān)問題,2. D-W檢驗(yàn),,,,,§5.4 自相關(guān)問題,,正自相關(guān) 不自相關(guān) 負(fù)自相關(guān),,0 dL dU 2 4-dU 4-dL 4,D-W 檢驗(yàn)的局限性,——樣本容量不小于15,——存在兩個(gè)無結(jié)論區(qū)間,§5.4

12、 自相關(guān)問題,３. 連貫檢驗(yàn),連貫：依次記錄 的符號，得到一個(gè)“+”、“－”的排列。排列中每一個(gè)“+”或“－”的連續(xù)序列，稱之為一個(gè)連貫。,自相關(guān)的連貫檢驗(yàn)步驟如下：,（ａ）完成模型的OLS估計(jì)，獲取殘差數(shù)據(jù)；,（ｂ）依次記錄 的符號。 為“+”的個(gè)數(shù)， 為“－”的個(gè)數(shù)， 為連貫數(shù)；,（ｃ）根據(jù) 、 ，查取連貫界值表，得臨界值 、

13、 。若 ，則接受正自相關(guān)判斷；若 ，則接受負(fù)自相關(guān)判斷；若 則否定自相關(guān)。,§5.4 自相關(guān)問題,§5.5 自相關(guān)模型的估計(jì),（一）廣義最小平方法對于自相關(guān)模型的意義,,,,,,,,（二）參數(shù)的估計(jì),1. 公式法：,小樣本模型,大樣本模型,,2. 回歸法：,,,3. Durbin兩步法：,,,§

14、5.5 自相關(guān)模型的估計(jì),（三）自相關(guān)模型的廣義最小平方估計(jì),,,,,,,§5.5 自相關(guān)模型的估計(jì),（四）自相關(guān)模型的廣義差分法估計(jì),（a）OLS估計(jì)，獲取殘差；,（ｂ）由回歸法計(jì)算 ；,（ｃ）實(shí)施廣義差分變換：,,,,,（ｄ）（*）模型進(jìn)行OLS估計(jì)；,（ｅ）（*）模型的OLS估計(jì)殘差，返回（b）求得第二輪 ；,以上過程直到 D-W 通過或 呈現(xiàn)出收斂趨勢時(shí)為止。,§5.5

15、 自相關(guān)模型的估計(jì),（五）例 5.2,（ａ）例5.2的廣義最小平方估計(jì),公式法求得:,,,（~）模型的OLS估計(jì)結(jié)果：,,例5.2 的廣義最小平方估計(jì)：,,擬合程度比較 ：,§5.5 自相關(guān)模型的估計(jì),廣義差分變換模型的OLS估計(jì)結(jié)果：,（b）例5.2的廣義差分估計(jì),,,,,例5.2 的廣義差分估計(jì)：,,擬合程度比較 ：,§5.5 自相關(guān)模型的估計(jì),§5.6　異方差與自相關(guān)模型的個(gè)別值預(yù)測,解釋變量組的