女性預期壽命

1、回歸分析線性回歸Logistic回歸對數(shù)線性模型,吳喜之,2,回歸分析,顧客對商品和服務的反映對于商家是至關重要的,但是僅僅有滿意顧客的比例是不夠的,商家希望了解什么是影響顧客觀點的因素以及這些因素是如何起作用的。 一般來說，統(tǒng)計可以根據(jù)目前所擁有的信息（數(shù)據(jù)）建立人們所關心的變量和其他有關變量的關系（稱為模型）。假如用Y表示感興趣的變量，用X表示其他可能有關的變量（可能是若干變量組成的向量）。則所需要的是建立一個函數(shù)關系Y=

2、f(X)。這里Y稱為因變量或響應變量，而X稱為自變量或解釋變量或協(xié)變量。建立這種關系的過程就叫做回歸。,3,回歸分析,一旦建立了回歸模型可以對各種變量的關系有了進一步的定量理解還可以利用該模型（函數(shù)）通過自變量對因變量做預測。這里所說的預測，是用已知的自變量的值通過模型對未知的因變量值進行估計；它并不一定涉及時間先后的概念。,4,例1 有50個從初中升到高中的學生.為了比較初三的成績是否和高中的成績相關,得到了他們在初三和高一的

3、各科平均成績(數(shù)據(jù):highschool.sav),從這張圖可以看出什么呢?,5,還有定性變量,該數(shù)據(jù)中，除了初三和高一的成績之外，還有一個定性變量它是學生在高一時的家庭收入狀況；它有三個水平：低、中、高，分別在數(shù)據(jù)中用1、2、3表示。,6,還有定性變量,下面是對三種收入對高一成績和高一與初三成績差的盒形圖,7,例1：相關系數(shù),8,SPSS的相關分析,相關分析(hischool.sav）利用SPSS選項：Analize－Correl

4、ate－Bivariate再把兩個有關的變量(這里為j3和s1)選入，選擇Pearson，Spearman和Kendall就可以得出這三個相關系數(shù)和有關的檢驗結果了(零假設均為不相關)。,9,定量變量的線性回歸分析,對例1中的兩個變量的數(shù)據(jù)進行線性回歸，就是要找到一條直線來最好地代表散點圖中的那些點。,10,檢驗問題等,對于系數(shù)b1=0的檢驗對于擬合的F檢驗R2 (決定系數(shù)) ＝SSR/SST,可能會由于獨立變量增加而增加(有按自

5、由度修正的決定系數(shù)：adjusted R2)，簡單回歸時R等于相關系數(shù),11,回到例1：R2等,12,SPSS的回歸分析,自變量和因變量都是定量變量時的線性回歸分析(hischool.sav) 利用SPSS選項：Analize－Regression－Linear再把有關的自變量選入Independent，把因變量選入Dependent，然后OK即可。如果自變量有多個（多元回歸模型），只要都選入就行。,多個自變量的回歸,如何解釋擬合

6、直線?,什么是逐步回歸方法?,14,例子：RISKFAC.sav,不算序號和(192個)國家有21個變量包括地區(qū)(Region)、(在城鎮(zhèn)和鄉(xiāng)村)使用干凈水的％、生活污水處理的％、飲酒量(litre/yearperson)、(每萬人中)內科醫(yī)生數(shù)目、護士和助產士數(shù)、衛(wèi)生工作者數(shù)、病床數(shù)、護士助產士和內科醫(yī)生之比、衛(wèi)生開支占總開支的％、占政府開支的％、人均衛(wèi)生開支$、成人識字率、人均收入$、每千個出生中5歲前死亡人數(shù)、人口增長率％、(男

7、女的)預期壽命(年)、每10萬生育的母親死亡數(shù),15,16,例子：RISKFAC.sav,該數(shù)據(jù)有許多相關的變量和許多缺失值假定要用各種變量描述每千個出生中5歲前死亡人數(shù)(因變量)可以先做兩兩相關也可以做定量變量的兩兩散點圖等等或者用逐步回歸淘汰變量目的在于摸清關系的底細,17,例子：RISKFAC.sav:相關,18,例子：RISKFAC.sav:逐步回歸,選中女性預期壽命和農村干凈水的％作為自變量（第二個自變量相對不那么顯

8、著pvalue=0.019）,模型：女性預期壽命模型：農村干凈水的％,19,RISKFAC.sav：散點圖及自變量相關性Pearson相關,20,RISKFAC.sav：散點圖及自變量相關性非參數(shù)度量KendallSpearman,21,介紹三個檢查異常點的統(tǒng)計量,殘差（Residual).(本例用SPSS中的一種)，它描述了樣本點到回歸直線的遠近程度。杠桿值(Levarage)。 它描述距離數(shù)據(jù)總體的遠近。高杠桿點對回歸的參

9、數(shù)影響較大，但其殘差通常較小。Cook統(tǒng)計量。它結合了殘差和杠桿值，因此反映了殘差和杠桿二者的影響（較全面）,全模型(兩個自變量：女性預期壽命和農村干凈水的％),,23,RISKFAC.sav：全模型異常點診斷：殘差,96(Lesotho ),23(Botswana),153(Sierra Leone ),192(Zimbabwe ),模型：女性預期壽命模型：農村干凈水的％,24,RISKFAC.sav：全模型異常點診斷高

10、杠桿點,23(Botswana),140(Romania ),192(Zimbabwe ),模型：女性預期壽命模型：農村干凈水的％,25,RISKFAC.sav：全模型異常點診斷Cook距離,23(Botswana),96(Lesotho),192(Zimbabwe ),140(Romania ),模型：女性預期壽命模型：農村干凈水的％,26,模型1因變量和自變量之一的散點圖X：女性預期壽命(年)Y：每千個出生中5歲前

11、死亡人數(shù),27,RISKFAC.sav：只用女性預期壽命作為自變量,模型：全模型模型：農村干凈水的％,28,RISKFAC.sav模型1異常點診斷殘差,23(Botswana),96(Lesotho),192(Zimbabwe ),模型：全模型模型：農村干凈水的％,29,RISKFAC.sav：模型1異常點診斷高杠桿點不太突出,模型：全模型模型：農村干凈水的％,30,RISKFAC.sav：模型1異常點診斷Cook

12、距離,192(Zimbabwe ),96(Lesotho),23(Botswana),模型：全模型模型：農村干凈水的％,31,模型2因變量和自變量之一的散點圖X：農村干凈水使用％Y：每千個出生中5歲前死亡人數(shù),32,RISKFAC.sav：只用農村凈水使用％,模型：全模型模型：女性預期壽命,33,140(Romania ),RISKFAC.sav模型2異常點診斷殘差,模型：全模型模型：女性預期壽命,34,RISKFAC

13、.sav：模型2異常點診斷高杠桿點不太突出,模型：全模型模型：女性預期壽命,35,RISKFAC.sav：模型2異常點診斷Cook距離,140(Romania ),模型：全模型模型：女性預期壽命,36,對該例子(RISKFAC.sav)的結果解釋,單獨用第一個自變量比單獨用第二個較好模型1（相應于模型）的“異常點”為一些非洲國家；它們可能不適合用這個模型。模型2（相應于模型）的“異常點”為Romania；它可能不適合用

14、這個模型。從散點圖來看，第一個模型更加線性。兩個自變量的模型的“異常點”為單獨模型“異常點”的混合。其實，用一個自變量就夠了。這兩個自變量是相關的。當然是用第一個了?？赡馨旬惓｜c排除后再重新建模更好。,37,自變量中有定性變量的回歸,例1的數(shù)據(jù)中,還有一個自變量是定性變量“收入”,以虛擬變量或啞元(dummy variable)的方式出現(xiàn);這里收入的“低”,“中”,“高”，用1,2,3來代表.所以,如果要用這種啞元進行前面回歸就沒

15、有道理了. 以例1數(shù)據(jù)為例,可以用下面的模型來描述:,38,自變量中有定性變量的回歸,現(xiàn)在只要估計b0, b1,和a1, a2, a3即可。啞元的各個參數(shù)a1, a2, a3本身只有相對意義，無法三個都估計，只能夠在有約束條件下才能夠得到估計。約束條件可以有很多選擇，一種默認的條件是把一個參數(shù)設為0，比如a3=0，這樣和它有相對意義的a1和a2就可以估計出來了。對于例1，對b0, b1, a1, a2, a3的估計分別為28.7

16、08, 0.688, -11.066, -4.679, 0。這時的擬合直線有三條，對三種家庭收入各有一條:,39,例子：RISKFAC.sav：因變量：成人識字率，自變量：區(qū)域（屬性變量）、人口增長率、人均收入,40,41,SPSS實現(xiàn)(hischool.sav),Analyze－General linear model－Univariate，在Options中選擇Parameter Estimates，再在主對話框中把因變量（s

17、1）選入Dependent Variable，把定量自變量(j3)選入Covariate，把定量因變量（income）選入Factor中。然后再點擊Model，在Specify Model中選Custom，再把兩個有關的自變量選入右邊，再在下面Building Term中選Main effect。Continue-OK，就得到結果了(系數(shù)和檢驗等),SPSS Syntax:UNIANOVA s1 BY income WI

18、TH j3 /METHOD = SSTYPE(3) /INTERCEPT = INCLUDE /CRITERIA = ALPHA(.05) /DESIGN = income j3 .,43,注意,這里進行的線性回歸，僅僅是回歸的一種，也是歷史最悠久的一種。但是，任何模型都是某種近似；線性回歸當然也不另外。它被長期廣泛深入地研究主要是因為數(shù)學上相對簡單。它已經(jīng)成為其他回歸的一個基礎。總應該用批判的眼光看這些模型。

19、,44,例2 這是200個不同年齡和性別的人對某項服務產品的認可的數(shù)據(jù)(logi.sav). 年齡是連續(xù)變量,性別是有男和女(分別用1和0表示)兩個水平的定性變量,而(定性)變量“觀點”則為包含認可(用1表示)和不認可(用0表示)兩個水平的定性變量。,從這兩張圖又可以看出什么呢?,45,Logistic 回歸,例2是關于200個不同年齡,性別的人對某項服務產品的觀點(二元定性變量)的數(shù)據(jù)(logi.sav).這里觀點是因變量, 只有兩

20、個值;所以可以把它看作成功概率為p的Bernoulli試驗的結果.但是和單純的Bernoulli試驗不同，這里的概率p為年齡和性別的函數(shù). 可以假定下面的(logistic回歸)模型,46,Logistic 回歸,為了循序漸近，先擬合沒有性別作為自變量（只有年齡x）的模型,47,Logistic模型擬合結果,依靠計算機，很容易得到b0和b1的估計分別為2.380和-0.069。擬合的模型為,48,Logistic模型擬合結果,再加上

21、性別變量進行擬合,得到的b0, b1和a0, a1的估計(同樣事先確定為a1=0)分別為1.722, -0.072, 1.778, 0.可以看出年齡影響對男女混和時(0.069)差不多,而女性相對于男性認可的可能性大(a0-a1=1.778)。,49,擬合的年齡-概率圖,50,擬合優(yōu)度檢驗Hosmer-Lemeshow-goodness-of-fit,這里p值=0.602(不顯著)。注意:在這里“顯著”意味著擬合不好！,51,SPSS

22、的Logistic回歸(logi.sav),自變量為定量變量時：利用SPSS選項：Analize－Regression－Binary Logistic，再把因變量(opinion)選入DependentVariable，把自變量（age）選入Covariates，OK即可得到結果。自變量為定量變量及定量變量時：利用SPSS選項：Analize－Regression－Binary Logistic，再把因變量(opinion)選入D

23、ependentVariable，把自變量（age和sex）選入Covariates，然后點Categorical，再把定性變量sex選入Categorical Covariate，回到主對話框，可在options選擇Hosmer-Lemeshow-goodness-of-fit檢驗（檢驗擬合優(yōu)度）點擊OK即可得到結果。,對數(shù)線性模型,多項分布對數(shù)線性模型Poisson對數(shù)線性模型,53,高維列聯(lián)表和多項分布對數(shù)線性模型,前面例子

24、原始數(shù)據(jù)是個三維列聯(lián)表，對三維列聯(lián)表的檢驗也類似。但高維列聯(lián)表在計算機軟件的選項可有所不同，而且可以構造一個所謂(多項分布)對數(shù)線性模型(loglinear model)來進行分析。利用對數(shù)線性模型的好處是不僅可以直接進行預測，而且可以增加定量變量作為模型的一部分。,54,多項分布對數(shù)線性模型,現(xiàn)在簡單直觀地通過二維表介紹一下對數(shù)線性模型，假定不同的行代表第一個變量的不同水平，而不同的列代表第二個變量的不同水平。用mij代表二維列聯(lián)

25、表第i行，第j列的頻數(shù)。人們常假定這個頻數(shù)可以用下面的公式來確定：,這就是所謂的多項分布對數(shù)線性模型。這里ai為行變量的第i個水平對ln(mij)的影響，而bj為列變量的第j個水平對ln(mij)的影響，這兩個影響稱為主效應（main effect）；eij代表隨機誤差。,55,多項分布對數(shù)線性模型,這個模型看上去和回歸模型很象，但由于對于分布的假設不同，不能簡單地用線性回歸的方法來套用(和Logistic回歸類似)；計算過程也很不一樣

26、。當然我們把這個留給計算機去操心了。只要利用數(shù)據(jù)來擬合這個模型就可以得到對于參數(shù)m的估計（沒有意義），以及ai和bj的“估計”。有了估計的參數(shù)，就可以預測出任何i，j水平組合的頻數(shù)mij了（通過其對數(shù)）。注意，這里的估計之所以打引號是因為一個變量的各個水平的影響是相對的,因此,只有事先固定一個參數(shù)值(比如a1=0),或者設定類似于Sai=0這樣的約束，才可能估計出各個的值。沒有約束，則這些參數(shù)是估計不出來的。,56,多項分布對數(shù)線性

27、模型,二維列聯(lián)表的更完全的對數(shù)線性模型為,這里的(ab)ij代表第一個變量的第i個水平和第二個變量的第j個水平對ln(mij)的共同影響(交叉效應)。即當單獨作用時，每個變量的一個水平對ln(mij)的影響只有ai(或bj)大，但如果這兩個變量一同影響就不僅是ai+bj，而且還多出一項。這里的交叉項的諸參數(shù)的大小也是相對的，也需要約束條件來得到其“估計”；涉及的變量和水平越多，約束也越多。,57,注意，無論你對模型假定了多少種效應，并

28、不見得都有意義；有些可能是多余的。本來沒有交叉影響，但如果寫入，也沒有關系，在分析過程中一般可以知道哪些影響是顯著的，而那些是不顯著的。,58,用table7.sav數(shù)據(jù)擬合對數(shù)線性模型,假定（多項分布）對數(shù)線性模型為,這里ai為收入（i=1,2,3代表收入的低、中、高三個水平），bj為觀點（j=1,2代表不贊成和贊成兩個水平），gk為性別（k=1,2代表女性和男性兩個水平）, mijk代表三維列聯(lián)表對于三個變量的第ijk水平組合的出現(xiàn)

29、次數(shù)，eijk為殘差而從相應的參數(shù)估計輸出結果，可以得到對ai的三個值的估計為0.5173, 0.2549,0.0000,對bj的兩個值的估計為-0.6931,0.0000,對gk的兩個值的估計為 0.1139,0.0000。(多項對數(shù)線性模型常數(shù)無意義，輸出的常數(shù)項僅僅是數(shù)學意義),59,SPSS輸出,就這里的三維列聯(lián)表問題，如只考慮各個變量單獨的影響，而不考慮變量組合的綜合影響，其SPSS輸出的Pearson c2統(tǒng)計量和似然比c

30、2統(tǒng)計量得到的p-值分別為0.0029和0.0011。,60,SPSS輸出,61,62,SPSS的實現(xiàn),[數(shù)據(jù)table7.sav] 假定已加權 (加權一次并存盤了既可) 這時的選項為Analyze－Loglinear－General,首先選擇格子中頻數(shù)的分布,這里是多項分布 (其默認值是Poisson對數(shù)線性模型).把三變量(sex,opinion,income)選入Factors(因子);再選Model(模型)，如果選Sat

31、urated(飽和模型),那就是所有交叉效應都要放入模型;但如果不想這樣,可以選Custom(自定義),在Building Terms(構造模型的項)選Main effect(主效應),再把三個變量一個一個地選進來(如果兩個或三個一同選入，等于選入交叉效應).如果想要知道模型參數(shù),在Options中選擇Estimates。最后Continue-OK即可得出結果.在計算機輸出的結果中可以找到我們感興趣的結果。如果SPSS的View

32、er輸出不完全，可以選中不完全的輸出，利用Edit-Copy Objects來復制到例如記事本那樣的文件中，就可以看到完整輸出了,63,Poisson對數(shù)線性模型,有的時候，類似的高維表并不一定滿足多項分布對數(shù)線性模型。下面看一個例子。這是關于哮喘病人個數(shù)和空氣污染程度，年齡和性別的數(shù)據(jù)（asthma.sav）后面表格為某地在一段時間記錄的60組在不同空氣污染狀態(tài)的不同年齡及不同性別的人的發(fā)生哮喘的人數(shù)。其中性別為定性變量S(sex

33、, 1代表女性，2代表男性)，空氣污染程度P也是定性變量（polut, 1、2、3分別代表輕度、中度和嚴重污染），年齡A (age)為定量變量，為那一組人的平均年齡；還有一列計數(shù)C (count)為這一組的哮喘人數(shù)。這個表格和前面的列聯(lián)表的不同點在于每一格的計數(shù)并不簡單是前面三個變量的組合的數(shù)目(某個年齡段，某種性別及某種污染下的人數(shù))，而是代表了某個年齡段，某種性別及某種污染下發(fā)生哮喘的人數(shù)。,64,Poisson分布簡介在

34、某些固定的條件下, 人們認為某些事件出現(xiàn)的次數(shù)服從Poisson分布, 比如在某一個時間段內某種疾病的發(fā)生病數(shù), 顯微鏡下的微生物數(shù), 血球數(shù), 門診病人數(shù), 投保數(shù), 商店的顧客數(shù), 公共汽車到達數(shù), 電話接通數(shù)等等. 然而, 條件是不斷變化的. 因此, 所涉及的Poisson分布的參數(shù)也隨著變化.,66,Poisson對數(shù)線性模型,假定哮喘發(fā)生服從Poisson分布；但是由于條件不同，Poisson分布的參數(shù)l也應該隨著條件的變化而

35、改變。這里的條件就是給出的性別、空氣污染程度與年齡。當然，如何影響以及這些條件影響是否顯著則是我們所關心的。這個模型可以寫成,這里m為常數(shù)項，ai為性別（i=1,2分別代表女性和男性兩個水平），bj為空氣污染程度（j=1,2,3代表低、中高三個污染水平），x為連續(xù)變量年齡，而g為年齡前面的系數(shù)，eij為殘差項。,67,68,69,Poisson對數(shù)線性模型,從對于數(shù)據(jù)(asthma.sav)的Poisson對數(shù)線性模型的相應SPSS輸出

36、，可以得到對m的估計為4.9820，對ai的兩個值的“估計”為-0.0608、 0.0000，對bj的三個值的“估計”為-0.1484，0.1223、0.0000，對g的估計為 0.0126。注意，這里的對主效應aI和bj的估計只有相對意義；它們在一個參數(shù)為0的約束條件下得到的。從模型看上去，年齡和性別對哮喘影響都不那么重要。輕度污染顯然比中度污染和嚴重污染哮喘要好。但是似乎嚴重污染時哮喘稍微比中度污染少些(差別不顯著)。通過更進

37、一步的分析（這里不進行），可以發(fā)現(xiàn)，中度和嚴重空氣污染（無論單獨還是一起）和輕度空氣污染比較都顯著增加哮喘人數(shù)，而中度及嚴重污染時的哮喘人數(shù)并沒有顯著區(qū)別。,70,SPSS的實現(xiàn),[數(shù)據(jù)asthma.sav] 假定已經(jīng)加權 這時的選項為Analyze－Loglinear－General,首先選擇格子中頻數(shù)的分布,這里是Poisson分布。然后把兩個變量（sex，polut）選入Factors（因子），把age選入Cell Cova

38、riate(s)。再選Model（模型），這里以選Custom（自定義），在Building Terms（構造模型的項）選Main effect（主效應），再把三個變量一個一個地選進來。如果想要知道模型參數(shù)，在Options中選擇Estimates。最后Continue-OK即可得出結果。在結果中可以找到有關Pearson c2統(tǒng)計量和似然比c2統(tǒng)計量的檢驗結果及參數(shù)的估計（如果SPSS的Viewer輸出不完全，可以選中不完全的輸