[學(xué)習(xí)]概率論與數(shù)理統(tǒng)計(jì)浙大四版第七章第七章2講

1、第二節(jié),估計(jì)量的評(píng)選標(biāo)準(zhǔn),,首先回顧上一節(jié)的內(nèi)容，主要介紹了點(diǎn)估計(jì)的兩種方法：矩估計(jì)和極大似然估計(jì)。矩估計(jì)的具體做法是：,i=1,2,…,k,從這k個(gè)方程中解出,j=1,2,…,k,那么用諸 的估計(jì)量 Ai分別代替上式中的諸 , 即可得諸 的矩估計(jì)量 ：,j=1,2,…,k,求極大似然估計(jì)的一般步驟是：,(1) 由總體分布導(dǎo)出樣本的聯(lián)合概率函數(shù) (或聯(lián)合密度);,(2) 把樣本聯(lián)合概率函數(shù)(或聯(lián)合密度)中自

2、變 量看成已知常數(shù),而把參數(shù) 看作自變量, 得到似然函數(shù)L( );,(3) 求似然函數(shù)L( ) 的最大值點(diǎn)(常常轉(zhuǎn)化 為求ln L( )的最大值點(diǎn)) ，即 的MLE;,,下面看上一節(jié)的例3：,,而 是極大似然估計(jì)。顯然二者是不同的估計(jì)量。,,從例3可以看到, 對(duì)于同一個(gè)參數(shù), 用不同的估計(jì)方法求出的估計(jì)量可能不相同. 而且, 很明顯, 原則上任何統(tǒng)計(jì)量都可以作為未知參數(shù)

3、的估計(jì)量.,(1)對(duì)于同一個(gè)參數(shù)究竟采用哪一個(gè)估計(jì)量好?,(2)評(píng)價(jià)估計(jì)量的標(biāo)準(zhǔn)是什么?,,在介紹估計(jì)量的評(píng)選標(biāo)準(zhǔn)之前，我們必須強(qiáng)調(diào)指出：,評(píng)價(jià)一個(gè)估計(jì)量的好壞，不能僅僅依據(jù)一次試驗(yàn)的結(jié)果，而必須由多次試驗(yàn)結(jié)果來衡量 .,這是因?yàn)楣烙?jì)量是樣本的函數(shù)，是隨機(jī)變量 . 因此，由不同的觀測(cè)結(jié)果，就會(huì)求得不同的參數(shù)估計(jì)值. 因此一個(gè)好的估計(jì)，應(yīng)在多次試驗(yàn)中體現(xiàn)出優(yōu)良性 .,常用的幾條標(biāo)準(zhǔn)是：,1．無偏性,2．有效性,3．相合性,這里我們重點(diǎn)介紹

4、前面兩個(gè)標(biāo)準(zhǔn) .,估計(jì)量是隨機(jī)變量，對(duì)于不同的樣本值會(huì)得到不同的估計(jì)值 . 我們希望估計(jì)值在未知參數(shù)真值附近擺動(dòng)，而它的期望值等于未知參數(shù)的真值. 這就導(dǎo)致無偏性這個(gè)標(biāo)準(zhǔn) .,1．無偏性,則稱 為 的無偏估計(jì) .,例如，用樣本均值作為總體均值的估計(jì)時(shí)，雖無法說明一次估計(jì)所產(chǎn)生的偏差，但這種偏差隨機(jī)地在0的周圍波動(dòng)，對(duì)同一統(tǒng)計(jì)問題大量重復(fù)使用不會(huì)產(chǎn)生系統(tǒng)偏差 .,無偏性是對(duì)估計(jì)量的一個(gè)常見而重要的要求 .,無偏性的實(shí)際意

5、義是指沒有系統(tǒng)性的偏差 .,證,例1,特別的:,不論總體 X 服從什么分布,,只要它的數(shù)學(xué)期望存在,,證,例2,(這種方法稱為無偏化).,證,例3,所以無偏估計(jì)以方差小者為好, 這就引進(jìn)了有效性這一概念 .,由于,2．有效性,證明,例4 (續(xù)例3),,,3、相合性,這一講，我們介紹了參數(shù)點(diǎn)估計(jì)，討論了估計(jì)量的優(yōu)良性準(zhǔn)則 .,參數(shù)點(diǎn)估計(jì)是用一個(gè)確定的值去估計(jì)未知的參數(shù). 看來似乎精確，實(shí)際上把握不大. 為了使估計(jì)的結(jié)論更可信，需要引

6、入?yún)^(qū)間估計(jì). 這是下一講的內(nèi)容 .,,,,當(dāng)總體為正態(tài)分布時(shí)，教材上給出了幾個(gè)重要的抽樣分布定理. 這里我們不加證明地?cái)⑹? 除定理2外，其它幾個(gè)定理的證明都可以在教材上找到.,四、幾個(gè)重要的抽樣分布定理,定理 1 (樣本均值的分布),n取不同值時(shí)樣本均值 的分布,解,例3,,查標(biāo)準(zhǔn)正態(tài)分布表知,,定理 2 (樣本方差的分布),n取不同值時(shí) 的分布,,定理 3,,定理 4 (兩總體

7、樣本均值差的分布),,定理 5 (兩總體樣本方差比的分布),,上述5個(gè)抽樣分布定理很重要， 要牢固掌握.,,,,,練習(xí),哪個(gè)更有效,哥色特 與t分布,哥色特，其筆名Student比他的真名更為人所知. 奈曼曾指出，許多統(tǒng)計(jì)學(xué)家在哥色特于1937年去世后，尚不知他就是Student,哥色特1876年出生于坎特伯雷. 他曾在溫徹斯特大學(xué)和牛津大學(xué)就讀. 1899年作為一名釀酒師進(jìn)入愛爾蘭的都柏林一家啤酒廠工作，

8、在那里他涉及到有關(guān)釀造過程的數(shù)據(jù)處理問題.。1906到1907年他有1年的時(shí)間去皮爾遜那里學(xué)習(xí)和研究統(tǒng)計(jì)學(xué)。 他著重關(guān)心的是由人為試驗(yàn)下所得的少量數(shù)據(jù)的統(tǒng)計(jì)分析問題，在當(dāng)時(shí)這是一個(gè)全新的課題，,,因?yàn)槿缜懊嬖赋龅?，?dāng)時(shí)統(tǒng)計(jì)學(xué)中占主導(dǎo)地位的卡爾·皮爾遜學(xué)派強(qiáng)調(diào)的是由自然觀察得來的大量數(shù)據(jù)的統(tǒng)計(jì)處理。這一研究的成果，就是那篇使他名垂統(tǒng)計(jì)史冊(cè)的論文《均值的或然誤差》，發(fā)表于1908年的《生物計(jì)量》雜志上。而這一思想的中心就是從正

9、態(tài)分布的數(shù)據(jù)中抽取樣本，總體標(biāo)準(zhǔn)差未知的情況下，由樣本標(biāo)準(zhǔn)差代替，標(biāo)準(zhǔn)化變量并不服從正態(tài)分布，而是服從n－1自由度的t分布，t分布也是一種對(duì)稱分布，只有一個(gè)參數(shù)就是樣本含量N，隨之n的增大經(jīng)趨向正態(tài)分布。,,他首次將小樣本理論提到日程，隨著小樣本理論的進(jìn)度，其重要意義日益為統(tǒng)計(jì)學(xué)界所理解，特別是t分布的意義，因?yàn)檫@個(gè)分布以后多次出現(xiàn)在一些重要統(tǒng)計(jì)量分布的結(jié)果中，于是Student這一結(jié)果的行情逐日看漲，導(dǎo)致后來統(tǒng)計(jì)界將他尊為小樣本理論的