[學(xué)習(xí)]概論與統(tǒng)計課件第五章極限定理

1、第五章極限定理,本章要解決的問題,1. 為何能以某事件發(fā)生的頻率作為該事件的概率的估計？2. 為何能以樣本均值作為總體 期望的估計？3. 為何正態(tài)分布在概率論中占 有極其重要的地位？4. 大樣本統(tǒng)計推斷的理論基礎(chǔ) 是什么？,大數(shù)定律,中心極限定理,第一節(jié) 大數(shù)定律,切比雪夫不等式大數(shù)定律的背景及概念依概率收斂定義及性質(zhì)三個大數(shù)定律

2、,1.1 切比曉夫（Chebyshev）不等式:,（2） X的方差越小，P(|X -EX|<e )就越大，即X 的取值越集中在EX 附近。這進一步說明了方差的概率含義：刻劃了隨機變量取值與均值的離散程度。,證明：,設(shè)X 為連續(xù)型隨機變量，其密度函數(shù)為f(x),注（1）等價 形式,定理1.1 設(shè)隨機變量X 的期望EX及方差DX存在，則對任意的 e >0，有,（3） 當(dāng)隨機變量X的期望、方差已

3、知而分布未知時，切比雪夫不等式提供了估計事件 {|X -EX|<e }或{|X -EX|≥ε}的概率的大小的一種方法。,Ex3：某電網(wǎng)有10000盞燈，夜晚每盞燈打開的概率為0.7,假定各燈的開、關(guān)彼此獨立。用切比曉夫不等式估計夜晚同時開著的燈的數(shù)量在6800與7200之間的概率。,解：設(shè)X表示夜晚同時開的燈數(shù)，則X~B（10000，0.7）。,EX=7000，DX=2100,由切比曉夫不等式得:,注：X的分布可以不給出,

4、而只給出其期望,方差即可.,P110 例1,例1 已知正常男性成人血液中 ，每一毫升白細胞數(shù)平均是7300，均方差是700 . 利用切比雪夫不等式估計每毫升白細胞數(shù)在5200~9400之間的概率 .,解：設(shè)每毫升白細胞數(shù)為X,依題意，EX=7300, DX=7002,所求為 P(5200 ≤X ≤9400),由切比雪夫不等式,1.2 切比雪夫大數(shù)定律,大量隨機試驗中,大數(shù)定律的客觀背景,例1、擲一顆均勻正六面體的骰子

5、，出現(xiàn)1點的概率是1/6。但擲的次數(shù)少時，出現(xiàn)1點的頻率可能與1/6相差較大，但擲次數(shù)很多時，出現(xiàn)1點的頻率接近1/6幾乎是必然的。,例2、測量一個長度a，一次測量的結(jié)果不見得就等于a，量了若干次，其算術(shù)平均值仍不見得等于a,但當(dāng)測量的次數(shù)很多時，算術(shù)平均值接近于a幾乎是必然的。,概率論中用來闡明大量隨機現(xiàn)象平均結(jié)果的穩(wěn)定性的一系列定理，稱為大數(shù)定律（law of large number),大數(shù)定律的概念,本章將介紹三個大數(shù)定律：

6、 （1）切比雪夫大數(shù)定律、 （2）辛欽大數(shù)定律 （3）伯努利大數(shù)定律。它們之間既有區(qū)別也有聯(lián)系。,一、隨機變量序列依概率收斂的定義,注: (1)定義中的式子等價于,,,,,,,(3)若X 是一隨機變量,且 ,則稱隨機變量序列 {X n} 依概率收斂于X ，簡記為：,(2) {X n}依概率收斂于a意味著對任給正數(shù) e ，當(dāng) n 充分大時，

7、 事件“|X n- a|<e ”發(fā)生的概率很大，接近于 1.當(dāng) n 充分大時,X n的取值就密集在a附近。但并不排除 事件“|X n- a|?e ”的發(fā)生，只不過它發(fā)生的可能性很小而已。,定義1.2 若對任何正整數(shù)m≥2，X1, X2, …，Xm相互獨立，則稱隨機變量X1, X2, …，Xn，…是相互獨立的，此時，若所有Xi又有相同的分布函數(shù)，則稱X1, X2, …，Xn，…是獨立同分布的隨機變量序列。

8、,由切比曉夫不等式得：,證：,,切比曉夫大數(shù)定律,定理1.2： 設(shè)X1, X2, …, X n, … 是相互獨立的隨機變量序列，期望EX1, EX2, …, EXn, … 及方差DX1, DX2, …, DXn, …都存在，且方差有界（對任意 i 有DXi ? M（常數(shù)）），則對于任意的 ? >0，恒有,注：（1）結(jié)論等價于,即 這意味著：只要n充分大，盡管n個隨機變量可以各有分布， 但其算術(shù)平均以后得到的隨機變量

9、 將較密集地聚集在它的期望 附近，不再為個別隨機變量所左右。---大數(shù)定律,（3）切比雪夫大數(shù)定律是1866年被俄國數(shù)學(xué)家切比雪夫所證明，它是關(guān)于大數(shù)定律的一個相當(dāng)普遍的結(jié)論，很多大數(shù)定律的古典結(jié)果是它的特例。,切比曉夫大數(shù)定律推論： 設(shè)X1, X2, …, Xn, … 是獨立同分布的隨機變量序列，EXi =? , DXi =? 2 （i=1，2， …），則對于任意的 ? >0，恒有,推論中方差的存在

10、性可去掉， 得如下結(jié)論,這一推論使算術(shù)平均值的法則有了理論根據(jù)。假使要測量某一個物理量a ,在不變的條件下重復(fù)測量 n 次，得到的觀測值x1, x2, …, xn 是不完全相同的，這些結(jié)果可以看作是服從同一分布并且期望值為a 的n 個相互獨立的隨機變量 X1, X2, …, Xn …的試驗數(shù)值。由推論可知，當(dāng)n充分大時, 取( ) 作為 a 的近似值，可以認為所發(fā)生的誤差是很小的。即對于同一個隨機變量X 進行 n 次獨立觀

11、察，則所有觀察結(jié)果的算術(shù)平均數(shù)依概率收斂于隨機變量的期望值 EX 。,定理1.3：設(shè)X1,X2, …,Xn, …是獨立同分布的隨機變量序列EXi =? , （i=1，2， …），則對于任意的 ? >0，恒有,伯努利大數(shù)定律,證：令,定理1.4 設(shè) mn 為 n 重伯努利試驗中事件 A 發(fā)生的次數(shù)，p 是 A 在每次試驗中發(fā)生的概率，則對任意的 ? >0 有,或,X1, X2, …, Xn 獨立同分布,都服從0-1分布，

12、EXi = p, DXi = p(1-p)由辛欽大數(shù)定理得：對于任意的 ? >0，恒有,此定理說明了頻率的穩(wěn)定性。,伯努利大數(shù)定律,伯努里大數(shù)定律的重要意義： (1)從理論上證明了頻率具有穩(wěn)定性。 （2)提供了通過試驗來確定事件概率的方法: 這種方法是參數(shù)估計的重要理論基礎(chǔ)。 （3）是“小概率原理”的理論基礎(chǔ)。 小概率原理：實際中概率

13、很小的隨機事件在個別試驗中幾乎是不可能發(fā)生的。,第二節(jié) 中心極限定理,中心極限定理的背景中心極限定理的定義中心極限定理,,中心極限定理的客觀背景,在實際問題中許多隨機變量是由相互獨立隨機因素的綜合（或和)影響所形成的.,例如：炮彈射擊的落點與目標(biāo)的偏差，就受著許多隨機因素（如瞄準(zhǔn)，空氣阻力，炮彈或炮身結(jié)構(gòu)等）綜合影響的.每個隨機因素的對彈著點（隨機變量和）所起的作用都是很小的.那么彈著點服從怎樣分布 ？,如果一個隨機變量是由大量

14、相互獨立的隨機因素的綜合影響所造成，而每一個別因素對這種綜合影響中所起的作用不大. 則這種隨機變量一般都服從或近似服從正態(tài)分布.,中心極限定理定義,概率論中有關(guān)論證獨立隨機變量的和的極限分布是正態(tài)分布的一系列定理稱為中心極限定理。,定理2.1(林德貝格-勒維中心極限定理）,由林德貝格-勒維中心極限定理得：,表明：獨立同分布隨機變量之和的極限分布為正態(tài)分布,林德貝格-勒維中心極限定理(獨立同分布的中心極限定理)的意義,對于獨立同分布

15、的隨機變量序列，只要期望和方差存在，不管原來的分布是什么分布，和的極限分布都是正態(tài)分布。,提供了計算獨立同分布隨機變量和的分布的近似方法。只要和式中加項個數(shù)充分大就可以利用正態(tài)分布近似。,例1:設(shè)某商店每天接待顧客100人,設(shè)每位顧客的消費額服從[0,60]上的均勻分布,且顧客的消費是相互獨立的.求商店的日銷售額超過3500的概率。,則X i服從[0，60]的均勻分布,解一第i個顧客的消費額為X i(元),（i=1.,2,…,100).

16、 X i獨立同分布,EXi=30， DXi=300,例1:設(shè)某商店每天接待顧客100人,設(shè)每位顧客的消費額服從[0,60]上的均勻分布,且顧客的消費是相互獨立的.求商店的日銷售額超過3500的概率。,則X i服從[0，60]的均勻分布,解二第i個顧客的消費額為X i(元),（i=1.,2,…,100). X i獨立同分布,EXi=30， DXi=300,例2：一袋鹽的重量(千克)是一隨機變量,期望為1,方差為0.01,一箱

17、 裝有100袋.求一箱中每袋平均重量在0.98至1.02千克之間的概率.,解：第i袋鹽的重量為Xi(千克),（i=1.,2,…,100). Xi獨立同分布,EXi=1， DXi=0.01,例3：一射擊運動員，在一次射擊中所得環(huán)數(shù)X 的概率分布如下表所示。問在 100 次射擊中所得的總環(huán)數(shù)介于 900 環(huán)與 930 環(huán)之間的概率是多少？超過 950 環(huán)的概率是多少？,解：令 X i 表示第 i 次所得環(huán)數(shù)，則諸 X i

18、( i = 1, 2, …, 100) 具有同一分布，且相互獨立。易得：,EXi =9.15 EXi2 =84.77,DXi =EXi2 –(EXi )2 = 84.77–9.152 ?1.05,,將林德貝格-勒維定理用到貝努利試驗的場合，得到下面的定理：,設(shè)Yn 服從參數(shù)為 n， p（ 0<p<1）的二項分布,則對任意實數(shù)x有:,證：,令 {Xi }為獨立,服從參數(shù)為p的0-1分布， (i =1, 2, …, n…),

19、且 EXi = p，DX i = p(1-p),由林德貝格-勒維定理即得本定理。,,定理2.2 （隸莫弗-拉普拉斯定理）,EYn=np，DYn= np(1-p),由定理4.4得:二項分布的極限分布是正態(tài)分布.,即: 若X~B(n,p), n充分大時, X近似服從N(np,np(1-p)) 可用正態(tài)分布近似計算二項分布。,例4：設(shè)有 10000 盞電燈,夜晚每一盞燈開燈的概率都是 0.7, 假定各燈開關(guān)彼此獨立,

20、求同時開著的燈數(shù)在 6800 與 7200 之間的概率。,解：令X 為同時開燈的數(shù)目,則X ~ B(10000, 0.7). 如果準(zhǔn)確計算，應(yīng)為：,X~ B(10000, 0.7),則 X 近似服從N(7000,2100),例5：食堂為 1000個學(xué)生服務(wù)，每個學(xué)生去食堂吃早餐的概率為0.6, 去與不去食堂用餐忽不影響。問食堂想以99.7% 的把握保障供應(yīng)，每天應(yīng)準(zhǔn)備多少份早餐？,解：應(yīng)準(zhǔn)備N份早餐。令X 為到食堂用餐

21、的學(xué)生數(shù)， 則X~B(1000, 0.6).,X~ B(1000, 0.6),則 X 近似服從N(600,240),保障供應(yīng)(X?N).,例6：產(chǎn)品為廢品的概率為 p = 0.005，求10000 件產(chǎn)品中廢品數(shù) 不大于 70 的概率。,解：令 X為10000件產(chǎn)品中的廢品數(shù)，則X ~B(10000, 0.005),例7:每顆炮彈命中飛機的概率為0.01,求 500發(fā)炮彈中命中5發(fā)的概率,解:命中飛機的炮彈數(shù)X

22、 ~B(500, 0.01),,這一講我們介紹了中心極限定理,在后面的課程中，我們還將經(jīng)常用到中心極限定理.,中心極限定理是概率論中最著名的結(jié)果之一，它不僅提供了計算獨立隨機變量之和的近似概率的簡單方法，而且有助于解釋為什么很多自然群體的經(jīng)驗頻率呈現(xiàn)出鐘形曲線這一值得注意的事實.,極 限 定 理,二項分布的隨機變量可看作許多相互獨立的 0-1 分布的隨機變量之和，下面是當(dāng) X ~B(20,0.5) 時，X的概率分布圖：,極 限 定 理

23、,泊松分布相當(dāng)于二項分布中 p 很小 n 很大的分布， 因此，當(dāng)參數(shù)l = np 很大時也相當(dāng)于 n 特別大，這個時候泊松分布也近似服從正態(tài)分布，下面是 l =30 時的泊松概率分布圖。,基本要求:1 了解隨機變量依概率收斂的概念。2 了解大數(shù)定律的意義和內(nèi)容，理解貝努里、辛欽 及切貝曉夫大數(shù)定理。3 理解中心極限定理的含義及其客觀背景,要掌握 獨立同分布的中心極限定理和隸莫夫—拉普拉斯 定理,會利用中心極限定理