計(jì)量經(jīng)濟(jì)學(xué)第三章第3節(jié)多元線性回歸模型的顯著性檢驗(yàn)

1、第三節(jié) 顯著性檢驗(yàn)及預(yù)測(cè),第三章 多元線性回歸模型,一、擬合優(yōu)度檢驗(yàn)二、變量的顯著性檢驗(yàn)三、回歸方程的顯著性檢驗(yàn)四、利用方程進(jìn)行預(yù)測(cè),一、多元線性回歸模型的統(tǒng)計(jì)檢驗(yàn),類似一元回歸，多元回歸同樣可以用擬合優(yōu)度R2度量樣本回歸方程擬合樣本觀察值的程度。R2越接近1，擬合的越好。, 擬合優(yōu)度,（1）總離差平方和分解,設(shè)多元線性回歸模型為：,樣本回歸方程為：,可得總的離差平方和分解式為,TSS=ESS+RSS,,(2) 擬合優(yōu)度（樣本

2、決定系數(shù)，可決系數(shù)）,(3) 擬合優(yōu)度（樣本決定系數(shù)）的計(jì)算,(4) 擬合優(yōu)度的特性,擬合優(yōu)度給出了解釋變量的改變導(dǎo)致被解釋變量改變的程度(百分比),R2 越大，擬合的越好。但在多元回歸回歸模型中，擬合優(yōu)度有這樣的特點(diǎn)：如果模型增加一個(gè)新的解釋變量，TSS不會(huì)改變，但是ESS將會(huì)增加，即R2隨著解釋變量個(gè)數(shù)的增加而變大。,詳細(xì)證明見下頁(yè)（選講）,命題： 殘差平方和RSS是解釋變量個(gè)數(shù)k的減函數(shù)。因此，樣本決定系數(shù)R2是解釋變量個(gè)數(shù)k的增

3、函數(shù)。,* 選講：殘差平方和RSS的特性,k元回歸模型的殘差平方和,證明：,增加一個(gè)解釋變量，殘差平方和變?yōu)?考慮RSSk和RSSk+1取得極小值的的情況。（在利用最小二乘法求參數(shù)估計(jì)值時(shí),兩者都應(yīng)分別達(dá)到極小值。）,而RSSk 取到極小值相當(dāng)于RSSk+1在 的條件下取極小值。,條件極值和無條件極值的關(guān)系是：條件極小值大于等于無條件極小值；條件極大值小于或等于無條件極大值。,例：從全

4、班同學(xué)中選出一個(gè)個(gè)子最矮的同學(xué)。在不包括班長(zhǎng)的情況下挑選出最矮的身高，一定高于或等于班長(zhǎng)參加挑選時(shí)最矮的身高。后者是條件極小值。,因?yàn)樾略黾拥慕忉屪兞考词购捅唤忉屪兞坎幌嚓P(guān)，解釋變量的增加也可以導(dǎo)致殘差的減小，從而導(dǎo)致擬合優(yōu)度的增大，這顯然不合理。必須對(duì)擬合優(yōu)度加以調(diào)整。,擬合優(yōu)度的特性會(huì)給人一種錯(cuò)覺：,要使模型模擬的好，只要增加解釋變量即可！,但是現(xiàn)實(shí)情況是：在多元線性回歸中，由增加變量個(gè)數(shù)引起的擬合優(yōu)度增大與擬合的好壞沒有直接關(guān)系

5、。,A) 擬合優(yōu)度(可決系數(shù))的調(diào)整思路,擬合優(yōu)度中的殘差平方和RSS隨著解釋變量個(gè)數(shù)的增加而減少,可以將該式除以一個(gè)隨變量個(gè)數(shù)增加而減少的因子,這樣可以抵消單純由變量個(gè)數(shù)增加導(dǎo)致的RSS的減少的影響。,調(diào)整的擬合優(yōu)度,總變差TSS并不隨解釋變量個(gè)數(shù)的增加而改變，但考慮擬合優(yōu)度取值的幅度和相對(duì)性，將TSS除以不隨解釋變量個(gè)數(shù)變化的自己的自由度n-1。,RSS的自由度n-k-1可以勝任這一角色。,B)調(diào)整后的擬合優(yōu)度(樣本決定系數(shù)),一增

6、一減，此消彼長(zhǎng),說明：,解釋變量的增加，可能導(dǎo)致樣本回歸方程與樣本觀察值擬合程度虛假的提高，調(diào)整的擬合優(yōu)度，是剔除由于解釋變量個(gè)數(shù)增加導(dǎo)致擬合優(yōu)度數(shù)值虛假提高，而擬合程度并沒有實(shí)際提高的情況。,（5）對(duì)調(diào)整后擬合優(yōu)度的補(bǔ)充說明：,當(dāng)增加一個(gè)對(duì)被解釋變量有較大影響的解釋變量時(shí)，殘差平方和減小的比n-k-1 減小的更顯著，擬合優(yōu)度就增大，這時(shí)就可以考慮將該變量放進(jìn)模型。,如果增加一個(gè)對(duì)被解釋變量沒有多大影響的解釋變量，殘差平方和減小沒有

7、n-k-1減小的顯著，擬合優(yōu)度會(huì)減小，其說明模型中不應(yīng)該引入這個(gè)不重要的解釋變量，可以將其剔除。,由此可見，修正的擬合優(yōu)度 比一般意義的擬合優(yōu)度 更準(zhǔn)確的反映了解釋變量對(duì)被解釋變量的影響程度。因此在一般情況下修正擬合優(yōu)度 比 應(yīng)用更廣。,解釋變量的增加，有可能導(dǎo)致樣本回歸方程與樣本觀察值擬合程度的提高，也會(huì)由于變量的個(gè)數(shù)的增加導(dǎo)致擬合優(yōu)度虛假的提高。調(diào)整后的擬合優(yōu)度，是剔除由于解釋變量個(gè)數(shù)增加導(dǎo)致擬合數(shù)值虛

8、假提高，而擬合程度并沒有實(shí)際提高的部分。,(6) 修正的擬合優(yōu)度總結(jié),*赤池信息準(zhǔn)則和施瓦茨準(zhǔn)則,為了比較所含解釋變量個(gè)數(shù)不同的多元回歸模型的擬合優(yōu)度，常用的標(biāo)準(zhǔn)還有:,施瓦茨準(zhǔn)則（Schwarz criterion，SC）,這兩準(zhǔn)則均要求僅當(dāng)所增加的解釋變量能夠減少AIC值或AC值時(shí)才在原模型中增加該解釋變量。,赤池信息準(zhǔn)則（Akaike information criterion, AIC）,數(shù)據(jù)采用1978～2000年23年的人均

9、國(guó)內(nèi)生產(chǎn)總值X和人均消費(fèi)支出Y的時(shí)間序列數(shù)據(jù)，且都轉(zhuǎn)換成1990年的不變價(jià)，且剔除了物價(jià)上漲因素的影響。,舉例說明：擬合優(yōu)度、修正擬合優(yōu)度、與增加解釋變量之間的關(guān)系。,在第二章第四節(jié)講義中，我們考察中國(guó)居民收入與消費(fèi)支出的關(guān)系，建立了以人均國(guó)內(nèi)生產(chǎn)總值為解釋變量X，以人均消費(fèi)支出為被解釋變量Y的一元線性回歸模型。,使用的數(shù)據(jù),人們的消費(fèi)具有一定的慣性，有些耐用品和固定資產(chǎn)可以連續(xù)使用一年以上。所以，今年的消費(fèi)和今年的人均國(guó)內(nèi)生產(chǎn)總值

10、有關(guān)，也和去年已經(jīng)發(fā)生了的消費(fèi)支出有關(guān)，這里建立消費(fèi)支出模型為：,其中t為當(dāng)前期變量，t-k稱為k期滯后變量。,1) 使用軟件估計(jì)模型,將之前已經(jīng)建立的Workfile文件打開點(diǎn)擊菜單中的“Quick”→“Estimate Equations”在對(duì)話框中輸入： y c x y(-1) y c x y(-1) y(-2) 字母之間用空格分隔。,注：滯后變量不需重新形成新的時(shí)間序列，軟件自動(dòng)運(yùn)算實(shí)現(xiàn)，k期滯后變量

11、，用y(-k)表示。,使用k期滯后變量，數(shù)據(jù)將損失k個(gè)樣本觀察值，例如：,2) 模型的估計(jì)表達(dá)式,,,一元、二元模型的系數(shù)均大于0，符合經(jīng)濟(jì)意義，三元模型系數(shù)的符號(hào)與經(jīng)濟(jì)意義不符。用一元回歸模型的預(yù)測(cè)值是1758.7，二元回歸模型的預(yù)測(cè)值是1767.4，2001年的實(shí)際值是1782.2。一元、二元模型預(yù)測(cè)的絕對(duì)誤差分別是23.5、14.8。,3) 三個(gè)模型的擬合優(yōu)度與殘差,從上式可以看出：隨著自變量的個(gè)數(shù)增加，殘差明顯的減少，殘差平方

12、和越小，擬合程度越大。,其中擬合程度的增大有解釋變量對(duì)被解釋變量有效部分，也有變量個(gè)數(shù)增加導(dǎo)致虛假提高的部分。,二元回歸相對(duì)于一元回歸，擬合優(yōu)度增加了0.0027，修正的擬合優(yōu)度增加了0.0025，二者的差0.0002即為由于增加解釋個(gè)數(shù)變量導(dǎo)致的擬合程度虛假提高的數(shù)值。三元回歸相對(duì)于二元回歸，擬合優(yōu)度增加了0.0003，修正的擬合優(yōu)度增加是0.000015，二者的差0.000285,即為由于增加解釋變量個(gè)數(shù)導(dǎo)致。,4) 擬合優(yōu)度與

13、修正擬合優(yōu)度的比較,由于增加的變量y(-2)導(dǎo)致的修正擬合優(yōu)度增加的值很小，甚至可以忽略，表明該變量和Y不相關(guān)，可以將其從模型中剔除.,回歸方程的顯著性檢驗(yàn),方程的顯著性檢驗(yàn)，旨在對(duì)模型中被解釋變量與解釋變量之間的線性關(guān)系在總體上是否顯著成立作出推斷。,多元回歸，我們關(guān)心被解釋變量是不是和一組解釋變量存在線性關(guān)系。如果總體回歸模型解釋變量的系數(shù)同時(shí)為0，表明被解釋變量與解釋變量之間不存在線性關(guān)系。,所有解釋變量的系數(shù)

14、是否同時(shí)為0的顯著性檢驗(yàn)。如果不同時(shí)為0，則被解釋變量與這組解釋變量之間存在線性關(guān)系；反之則被解釋變量與這組解釋變量之間不存在線性關(guān)系。,即對(duì)多元線性回歸模型,方程的顯著性檢驗(yàn)的原假設(shè)是所有解釋變量的系數(shù)同時(shí)為0，即：b1= b2=… = bk= 0。只要存在一個(gè)不為0的bj 就表明模型的線性關(guān)系是顯著的。,類似于一元線性回歸模型的方程顯著性檢驗(yàn),F檢驗(yàn)的思想來自于總離差平方和的分解式： TSS

15、=ESS+RSS,此處也用F檢驗(yàn)法檢驗(yàn)回歸方程的顯著性,如果這個(gè)比值較大，則X的聯(lián)合體對(duì)Y的解釋程度高，可認(rèn)為總體存在線性關(guān)系，反之總體上可能不存在線性關(guān)系。,因此,可通過該比值的大小對(duì)總體線性關(guān)系進(jìn)行推斷。,以下為具體的假設(shè)檢驗(yàn)過程,第三步：做出判斷,第一步: 提出假設(shè),第二步：構(gòu)造F統(tǒng)計(jì)量,回歸系數(shù)的顯著性檢驗(yàn),回歸方程顯著成立，并不意味著每個(gè)解釋變量對(duì)被解釋變量都是重要的，每個(gè)解釋變量對(duì)于被解釋的影響有大有小，各不相同。如

16、果某個(gè)解釋變量Xi對(duì)Y影響不重要，可以考慮將其從模型中剔除，重新建立更簡(jiǎn)潔有效的模型。變量多意味著增加建模難度及成本，剔除對(duì)被解釋變量影響不顯著的解釋變量，具有重要的意義。,如果某變量對(duì)Y的影響不重要，需要將其剔除，此時(shí)，可以認(rèn)為其前面的系數(shù)bi=0。,系數(shù)的顯著性檢驗(yàn)，就是對(duì)各個(gè)變量的系數(shù)bk是否顯著的不等于0分別進(jìn)行檢驗(yàn)，具體步驟如下:,(1) 提出假設(shè),原假設(shè) H0： 備擇假設(shè) H1：,參數(shù)估計(jì)量的方差-協(xié)方差矩陣,(

17、2) 構(gòu)造統(tǒng)計(jì)量,設(shè)矩陣 主對(duì)角線上的元素為cjj，則參數(shù) 的方差為,且由樣本回歸方程參數(shù)的無偏性知,(3) 做出判斷,參數(shù)及回歸方程顯著性檢驗(yàn)的例題，可以參考本節(jié)中的二元及三元線性回歸模型進(jìn)行說明。,附：Eviews回歸分析結(jié)果如下,利用回歸方程進(jìn)行預(yù)測(cè),所謂預(yù)測(cè)，就是給定解釋變量某一個(gè)特定值 利用回歸方程對(duì)Y的值進(jìn)行估計(jì)。同一元的相同，預(yù)測(cè)方

18、法是點(diǎn)預(yù)測(cè)和區(qū)間預(yù)測(cè)。,（1）點(diǎn)預(yù)測(cè),注：利用回歸方程進(jìn)行點(diǎn)預(yù)計(jì)，所得的預(yù)測(cè)值與真值的誤差可能會(huì)比較大。這是因?yàn)椋环矫婊貧w方程的系數(shù)是有樣本求的，自然會(huì)有抽樣誤差；另一方面，在進(jìn)行上述預(yù)測(cè)時(shí)，使模型中的隨機(jī)項(xiàng)取得了它的均值0，但實(shí)際上可能不是0。因此有必要考慮區(qū)間預(yù)測(cè)。,（2）區(qū)間預(yù)測(cè)（對(duì)個(gè)別值Y0的預(yù)測(cè)）,類似構(gòu)造參數(shù)的區(qū)間估計(jì)一樣，構(gòu)造對(duì)Y的預(yù)測(cè)置信區(qū)間。,(證明略),（1）構(gòu)造t統(tǒng)計(jì)量,（2）確定臨界值,多元線性回歸分析實(shí)例,（

19、1）從宏觀經(jīng)濟(jì)看，經(jīng)濟(jì)整體增長(zhǎng)是稅收增長(zhǎng)的基本源泉。（2）公共財(cái)政的需求，稅收收入是財(cái)政收入的主體，社會(huì)經(jīng)濟(jì)的發(fā)展和社會(huì)保障的完善等都對(duì)公共財(cái)政提出要求，因此對(duì)預(yù)算支出所表現(xiàn)的公共財(cái)政的需求對(duì)當(dāng)年的稅收收入可能會(huì)有一定的影響,問題：研究影響中國(guó)稅收收入增長(zhǎng)的主要原因，分析中央和地方稅收收入的增長(zhǎng)規(guī)律，預(yù)測(cè)中國(guó)稅收未來的增長(zhǎng)趨勢(shì)。,影響稅收收入增長(zhǎng)的因素很多，其主要因素可能有：,（3）物價(jià)水平。我國(guó)的稅制結(jié)構(gòu)以流轉(zhuǎn)稅為主，以現(xiàn)行價(jià)格

20、計(jì)算的GDP等指標(biāo)和經(jīng)營(yíng)者的收入水平都與物價(jià)水平有關(guān)。,(4）稅收政策因素。由于財(cái)稅體制的改革難以量化，而且1985年以后財(cái)稅體制改革對(duì)稅收增長(zhǎng)影響不是很大，可暫不考慮稅制改革對(duì)稅收增長(zhǎng)的影響。,設(shè)定的多元線性回歸模型為：,選擇包括中央和地方稅收的“國(guó)家財(cái)政收入”中的“稅收收入”作為被解釋變量，以反映國(guó)家稅收的增長(zhǎng)；選擇“國(guó)內(nèi)生產(chǎn)總值（GDP）”作為經(jīng)濟(jì)整體增長(zhǎng)水平的代表；選擇中央和地方“財(cái)政支出”作為公共財(cái)政需求的代表；選擇“

21、商品零售物價(jià)指數(shù)”作為物價(jià)水平的代表。,所以解釋變量設(shè)定為可觀測(cè)的“國(guó)內(nèi)生產(chǎn)總值”、“財(cái)政支出”、“商品零售物價(jià)指數(shù)”等變量。,經(jīng)過Eviews運(yùn)行后，顯示如下結(jié)果,結(jié)果解釋：,模型估計(jì)結(jié)果說明，在假定其它變量不變的情況下，當(dāng)年GDP每增長(zhǎng)1億元，稅收收入就會(huì)增0.02207億元；在假定其它變量不變的情況下，當(dāng)年財(cái)政支出每增長(zhǎng)1億元，稅收收入會(huì)增長(zhǎng)0.7021億元；在假定其它變量不變的情況下，當(dāng)年零售商品物價(jià)指數(shù)上漲一個(gè)百分點(diǎn)，稅收

22、收入就會(huì)增長(zhǎng)23.9854億元。,（1）經(jīng)濟(jì)意義解釋,（2）統(tǒng)計(jì)檢驗(yàn)解釋,(1)擬合優(yōu)度：由結(jié)果數(shù)據(jù)可以看到：修正的可決系數(shù)為 這說明模型對(duì)樣本的擬合很好。,(2)F檢驗(yàn)：針對(duì)原假設(shè) ,給定顯著性水平 。由結(jié)果數(shù)據(jù)中中得到 ， F統(tǒng)計(jì)量的伴隨概率為P=0<0.05，所以應(yīng)拒絕原假設(shè) ，說明回歸方程顯著。,即:“國(guó)內(nèi)生產(chǎn)總值”、“財(cái)政支出”、“

23、商品零售物價(jià)指數(shù)”等變量聯(lián)合起來確實(shí)對(duì)“稅收收入”有顯著影響。,由運(yùn)行結(jié)果數(shù)據(jù)可知,它們的絕對(duì)值都大于2.08，所以均應(yīng)拒絕原假設(shè),也就是說，當(dāng)在其它解釋變量不變的情況下，解釋變量“國(guó)內(nèi)生產(chǎn)總值”、“財(cái)政支出”、“商品零售物價(jià)指數(shù)”分別對(duì)被解釋變量“稅收收入”都有顯著的影響。,(3)T檢驗(yàn),附：關(guān)于擬合優(yōu)度檢驗(yàn)與方程顯著性檢驗(yàn)關(guān)系,可推出：,或,時(shí),同向變化：,因此F檢驗(yàn)是所估計(jì)回歸的總顯著性的一個(gè)度量，也是修正擬合優(yōu)度的一個(gè)度量，亦