第一篇：概率論和統計中常用的收斂極限小結

概率論和統計中的收斂總結

概率論中的極限定理和數理統計學中各種統計量的極限性質，都是按隨機變量序列的各種不同的收斂性來研究的。

設{Xn,n≥1}是概率空間(Ω,F,P)（見概率）上的隨機變量序列，從隨機變量作為可測函數看，常用的收斂概念有以下幾種：

以概率1收斂

若,則稱｛Xn,n≥1｝以概率1收斂于X。強大數律（見大數律）就是闡明事件發生的頻率和樣本觀測值的算術平均分別以概率 1收斂于該事件的概率和總體的均值。以概率 1收斂也常稱為幾乎必然（簡記為α.s）收斂,它相當于測度論中的幾乎處處（簡記為α.e.）收斂。

依概率收斂

若對任一正數ε,都有，則稱{Xn,n≥1}依概率收斂于X。它表明隨機變量Xn與X發生較大偏差(≥ε)的概率隨n無限增大而趨于零。概率論中的伯努利大數律就是最早闡明隨機試驗中某事件 A發生的頻率依概率收斂于其概率P(A)的。依概率收斂相當于測度論中的依測度收斂。

r階平均收斂

對r≥1,若Xn-X的r階絕對矩(見矩)的極限,則稱{Xn,n≥1}r階平均收斂于X。特別，當r=1時，稱為平均收斂；當r=2時,稱為均方收斂，它在寬平穩過程（見平穩過程）理論中是一個常用的概念。

弱收斂

設Xn的均值都是有限的，若對任一有界隨機變量Y都有則稱{Xn,n≥1}弱收斂于X，由平均收斂可以推出弱收斂。

從隨機變量的分布函數（見概率分布）看，常用的有如下收斂概念。

分布弱收斂

設Fn、F分別表示隨機變量Xn、X的分布函數,若對F的每一個連續點x都有，則稱Xn的分布Fn弱收斂于X的分布F,也稱Xn依分布收斂于X。,分布弱收斂還有各種等價條件，例如,對任一有界連續函數?(x)，img src=“image/254-6.gif” align=“absmiddle”>。分布弱收斂是概率論和數理統計中經常用到的一種收斂性。中心極限定理就是討論隨機變量序列的標準化部分和依分布收斂于正態隨機變量的定理。大樣本統計中也要討論各種統計量依分布收斂的問題。

分布淡收斂

設{Fn(x)，n≥1}為分布函數列，而F(x)為一非降右連續函數（不一定是分布函數），若對F(x)的每一個連續點x 都有，則稱Fn淡收斂于F。

上述各種收斂之間有如下蘊含關系（A=>B表示由A可推出B）,若r′≥r≥1,則有:。此外，依概率收斂于常數與依分布收斂于常數是等價的。當是獨立隨機變量序列{Yj,j≥1}的部分和時，Xn依分布收斂、依概率收斂和以概率1收斂三者是等價的。

隨著概率論的發展，上述收斂概念還推廣到取值于一般可測空間（見測度論）的隨機元（見隨機過程）序列的各種收斂性。例如隨機過程序列的分布弱收斂（見隨機過程的極限定理），巴拿赫空間隨機元序列的收斂等。

第二篇：數列極限的收斂準則

第一講 數列極限

一、數列極限的收斂準則

1.數列極限的夾逼準則

a)數列{xn}，{yn}，{zn}滿足：

i.yn＃xnzn(n N0)

ii.nlimyn=nlimzn=a

則數列{xn}的極限存在，且nlimxn=a

b)例

1、求極限n!

nlimnn=0 注：n!=1鬃23Ln

1例

2、求極限lim1+2n+nnn

n(3)注：nlima=1(a>0)

驏1n

練習：

1、1n

nlim?? ??桫1+n+

1n÷÷

2÷÷ 注：運用重要極限nlim(1+n)=e2、求n?lim(其中 a1,a2,L,ak為正常數, k?Z+.)

2.單調數列的收斂準則

a)單調增加有上界的數列必收斂；

b)單調遞減有下界的數列必收斂；

通常說成：單調有界的數列必收斂。

例1． 證明lim(1

1n)n

n+=e 注：補充二項式定理

例2．

設x1=10，xn+1={xn}極限存在，并求其極限。例3．

設x1=xn+1={xn}極限存在，并求其極限。注：補充數學歸納法例

1、證明1+3+L+(2n-1)=n2 例

2、證明1+++L+<思考：

1、有界數列是否收斂？

2、數列{xn}收斂是否可推出數列xn}收斂？反之是否成立？

13、數列xn為有界數列，且limyn=0，數列數列xnyn是否收斂？ n{}{}

二、收斂數列的性質

1.極限的唯一性。

2.有界性。問題：有界數列是否收斂？

3.保號性。問題：若xn>0("n N)，且limxn=a，是否一定有a>0？ n

4.收斂數列的子數列必收斂。

思考：（1）數列xn與yn都發散，是否數列xnyn與xn+yn也都發散？

（2）若子列x2n-1與x2n均收斂，則數列xn是否收斂？

（3）設x1>0，xn+1{}{}{}{}{}{}{}1驏1÷÷=?x+，證明數列{xn}極限存在，并求其極限。?÷n?÷2?xn桫

nn（4）求lim2+3+4n(nn

驏12n÷÷（5）求lim ++L+÷222n÷n+n+1n+n+2n+n+n桫

（6）設數列xn滿足：0ì?n2+??當n為奇數?n（7）數列xn=í，則當n?1?當n為偶數??n??時，xn是

A無窮小量B無窮大量C有界變量D無界變量2

第三篇：中心極限定理和概率統計

若{Xn}的分布函數序列{Fn(x)}與X的分布函數F(x)有，在任意連續點x，limFn(x)?F(x)。n??

依概率收斂

n??若???0，有P(Xn?X??)????0。準確的表述是，???0，???0，?N,n?N，有P(Xn?X??)??成立

（3）幾乎必然收斂

如果有P(limXn?X)?1。準確的表述是，除掉一個0概率集A，對所有的???A，n??

有limXn(?)?X(?)成立。這是概率空間上的點收斂。n??

定理1。（切貝雪夫大數律）{Xn}相互獨立，且有相同的期望和方差，（不一定同分布）

1nPE(Xn)?uD(Xn)??，?n,記Yn??Xi，則Yn???u。ni?1

2統計發生——事物某方面的定量記錄事前是不確定的，發生后的數據由真值和誤差兩部分構成，X????。X是數據，?是真值，?是誤差。導致誤差的原因有：

1． 系統性誤差：偏離真值的本質性錯誤，有內在原因所致；

2． 隨機性誤差：偏離真值的偶然性錯誤，沒有內在原因，是純偶然因素所致。

總體就是一個特定的隨機變量

通過抽樣，獲得樣本，構造樣本統計量，由此推斷總體中某些未知的信息

從總體中抽樣是自由的，且當總體數量足夠大，有放回與無放回抽樣區別不大，有理由認為，取得的抽樣觀察值是沒有關系的。所以，樣本在未抽取前它們是與總體X同分布的隨機變量，且是相互獨立的，稱此為隨機樣本。

定義2。設x1,?,xn是取自總體X的一組樣本值，g(x1,?,xn)是Borel 可測函數，則稱隨機變量g(X1,?,Xn)是一個樣本統計量。

如果總體X中分布函數有某些參數信息是未知的，我們用統計量g(X1,?,Xn)去推斷這些信息，稱此問題為統計推斷問題。

給樣本值x?(x1,?,xN)?,y?(y1,?,yN)?，定義：（1）樣本均值

??(xi/n)

i?

1n

（2）樣本方差

1n

?x)????var((xi?)2 ?n?1i?1

??樣本標準差

s.e.e??)

x)i(y)

1n

（3）樣本協方差c?ov(x,y)???(1x

n?1i?1

樣本相關系數

?xy?

?(x,y)cov

1/2

?(x)var?(y)][var

1nk

（4）樣本k階矩 Ak??xi k?1,2,?

ni?11n

（5）樣本k階中心矩 Bk??(xi?)k

ni?1

?

k?1,2,?

X的左側分位點F?，P(X?F?)??dF(x)??。左?分位點的概率含義是，隨機變量

F?

不超過該點的概率等于?

設總體X分布已知，但其中有一個或多個參數未知，抽樣X1,?,Xn，希望通過樣本來估計總體中的未知參數，稱此為參數估計問題，它是統計推斷理論中最重要的基礎部分。

用樣本矩作為總體矩的估計量，以及用樣本矩的連續函數作為總體矩的連續函數的估計量，這種方法稱為矩估計法，這是一種最自然的估計方法。

?(x,?,x))??對任意???成立。當樣本是稱??是參數?的一個無偏估計，如果E(?1n

有限的時候，我們首先要考慮的是無偏性。

n1n22

??S??(Xi?)2才是方差?的無偏估計。故我們在樣本統計量中定義?n?1n?1i?1

S2為樣本方差。

??是參數?的一個一致估計，如果依概率有lim??(x1,?,xn)??對任意???成立。

n??

有效性

在所有關于參數?的無偏估計類中?0，或所有的一致估計類?1中，如果存在?*是參數?的一個無偏有效估計或一?*)?D(??)對任意????或任意????成立，稱?D(?01

?具有最小方差性。致漸近有效估計。即?

*

。無論總體X分布是什么，任意樣本Xi和都是X的無偏估計，但?比單獨的樣本估計Xi更有效。

DXi，所以n

設總體X關于分布F(x,?)存在兩類問題，一類是分布的形式未知，一類是分布的形式已知但參數未知，提出的問題是，需要對分布的形式作出推斷，此稱為非參數檢驗的問題； 或需要對參數作出推斷，此稱為參數檢驗問題。

奈克—皮爾遜定理告訴我們，當樣本容量n固定，若要減少犯第一類錯誤的概率則犯第二類錯誤的概率會增加，要使兩類錯誤都減少當且僅當增加樣本容量。

超過了我們設定的F?，（如，體溫超過37度。）此意味一個小概率事件發生了。于是，我們有理由拒絕命題H0是真的。

X~N(u1,?12)，Y~N(u2,?2)，且相互獨立，取樣有(x1?xn1),(y1?yn2)。

欲檢驗H0:u1?u2，或更一般，H0:u1?u2?u（u已知）。如何檢驗？

2（1）若?12、?2已知

因為~N(u1,?1

2n

1)，~N(u2,2?2

n2)，且相互獨立，所以?~N(u1?u2,?12?2

n1

?

n2)，~N(0,1)，所以可找到檢驗統計量U?。

（2）若?12??2??2，但?未知，欲檢驗H0:u1?u2?0，因為V?

?

222

[(n?1)S?(n?1)S]~?(n1?n2?2)，11222

且與

U?

~N(0,1)獨立，n1?1n2?12

~t(n1?n2?2)，令S2?，S12?S2

n1?n2?2n1?n2?2可得

V?2S2，所以可找到統計量

n1?n2?2?

T?

?

~t(n1?n2?2)。

注：如果u未知，問題就變困難了，可以證明此時統計量T就是一個非中心的t分布。

（3）又如何知道?12??2??2？

?12(n?1)(n?1)2可做假設檢驗H0:2?1。因為12S12~?2(n1?1)，22S2 ~?2(n2?1)且獨立。

?1?2?2

S12

所以，可找到統計量F?2~F(n1?1,n2?1)。

S2

（4）若?12??2，且未知。問題就變困難多了，我們找不到合適的統計量。如果樣本容量

足夠大，那么，可以用漸近檢驗的辦法處理。注意，U?

中，因為?12，?2未

知，但已知S12,S2是?12，?2的一致估計，故用它們代替，有：

n1,n2??

limU?

~N(0,1)。

從而當n1,n2充分大時可用漸近正態檢驗。

又當n1?n2?n較小時，可以證明，~t(n)，注意，此與T?

?

~t(n1?n2?2)

自由度不同。此意味當期望、方差相同時，樣本可以合并，認為X,Y屬于同一總體。當期望相同，方差不同時，樣本不能簡單合并。

注：關于H0:u1?u2?u，或H0:u1?u2?u，統計量相同，并采用單側的右分位點或單側的左分位點檢驗。

?是無偏線性估計類中的有效估計。OLS?

? ?的極大似然估計在基本模型假定下就是OLS?

估計做出后，評價、判斷模型中的假定是否合理是對事前設定的模型做一個整體的把握。我們可以把這些假定、設定歸結為一些對未知參數的判斷，如果這些判斷基本正確或錯誤，那么從整體數據中就能夠反映出來。假設檢驗是估計完成后對模型的設定做進一步的確認。它以證否的形式完成。拒絕原假設，意味著命題真時犯錯誤的可能性可控制在一定的概率范圍內。

第四篇：淺談物理學中的概率論

淺談物理學中的概率論

課程名稱：概率論與數理統計

任課教師：史靈生

姓名：李上

班級：化工系分2班

學號：2012011849

淺談物理學中的概率論

摘要：概率論作為數學的一個重要分支，為經典統計物理的發展做出重要貢獻；然而，在量子力學中，Copenhagen學派卻對波函數的物理意義有著與經典概率論不同的統計解釋——概率幅。

關鍵字：統計物理 Boltzmann分布律 量子力學 概率幅

概率論與數理統計作為數學的一個分支學科不僅與其他數學學科有十分深入的相互滲透，而且與其他自然科學、技術科學、管理科學、以至于人文科學都有著廣泛的交叉，與生活實踐和科學試驗都有著緊密的聯系，是許多新發展的前沿學科的基礎。作為基礎科學的物理學與概率論有著密不可分的關系，本文講主要談一談物理學中的概率論。

1.概率論在經典統計物理中的應用

統計物理學也叫統計力學，是用統計平均的方法研究大量微觀粒子的力學行為，是理論物理學重要分支。麥克斯韋-波爾茲曼統計分布是研究獨立經典粒子按能量的最概然分布。對物理學，對物理化學，對化學工程都極其重要的意義。該分布在統計力學中占有重要地位，系統的各種熱力學性質都與之有著十分密切的聯系。

在定域子系中，Ni個彼此可以區分的粒子（可分是指它們可以按照位置加以辨別）占據gi個量子態的可能方式有giNi種。根據獨立性N1，N2，?Ni，?個粒子分別占用能級的可能占據方式共有∏igiNi種。由于N個粒子是可以區分的，N個粒子分別為N1，N2，?Ni?個粒子的組合方式也可能有很多種。從N個粒子中取出N1個粒子放到能級中去，粒子的組合方式數為CNi?N1N!；在余下N1!(N?N1)!的N-N1個粒子中取出Ｎ2個粒子放入能級中去，這些粒子的組合方式數

CN2

N?N1?(N?N1)!；依此類推，很容易得出可能出現的粒子占據方式總N2!(N?N1?N2)!

NgiiN!Ni數為??。這樣，我們便依據現有的概率論知識推出了?gi?N!?iN!?Ni!iii

Boltzmann分布定律中微觀狀態數的數學表達式。后面根據微積分中已經學到的1 《基礎物理化學》【M】,朱文濤

Lagrange乘數法，結合物理化學中的Boltzmann公式，即可得出Boltzmann分布律的最終的表達式。后半部分的證明并沒有涉及到概率論的知識，因此這里不再贅述。

在統計物理學中，對于費米子的費米-狄拉克統計（F-D分布）、對于波色子的玻色-愛因斯坦統計（B-E分布）和上文提到Boltzmann分布是三種重要的統計規律，而它們的得出都與概率論與數理統計有著密不可分的關系。由此可見，概率與統計是統計力學中一項重要的理論武器。

2.量子力學中概率幅概念的引入

著名的美國物理學家Feynman曾說：“雙縫衍射實驗表現了量子力學的一切奧秘。”在物理學中的雙縫衍射實驗中，當兩條縫同時打開時，衍射圖形應該是在兩條縫輪流打開的條件下得到的兩個衍射圖形的疊加。這一實驗事實表明：經典概率論中的全概率公式并不不適用于雙縫衍射過程。2概率幅是以著名物理學家Born為代表的Copenhagen學派為解釋這一現象而提出的假設——一個粒子通過某一條縫到達屏幕上某處的概率幅等于兩條縫輪流打開時，該事件的兩個概率幅之和——波函數Ψ是復數, 而所有可觀察的物理量都必須用實數表示，因此Born建議將Ψ的絕對值的平方看作是波函數和可觀察物理量之間的聯系橋梁，稱為概率幅。概率幅疊加的假設與實驗結果符合的很好，這一假設在量子力學中有著重要的意義，它被Feynman稱為“量子力學的第一原理”3，玻恩本人也因此而獲得諾貝爾物理學獎。玻恩本人這樣理解這一假設——“量子本身遵守概率定律，但是概率本身還是受因果律支配的?！?雖然有一些物理學家如愛因斯坦、德布羅意等人反對這一觀點5，但是至少在目前還是不能動搖這一理論的地位。

在物理理論中引入概率概念在哲學上有著重要意義，它意味著，在已知給定條件下，不可能精確地預知結果，只能用統計的方法給出結論，這與經典物理學中的嚴格因果律是矛盾的。而如今，混沌正是物理學中一個重要的研究分支。

結束語

概率論與數理統計的發展，促進了包括物理學等其他學科的發展；另一方面，20世紀以來，由于物理學和其他學科的推動，概率論飛速發展，理論課題不斷2《概率的干涉與態迭加原理》【J】，譚天榮《The Feynman's Lectures on Physics》，【M】, Feynman 4 《Introducing quantum theory》，【M】, Joseph P.McEvoy 5 《Quantum Paradoxes and Physical Reality》，【M】, F.Selleri

擴大與深入，應用范圍大大拓寬，已滲透到許多科學領域，應用到國民經濟各個部門，成為科學研究不可缺少的工具。因此學好概率論與數理統計這門課程對我們的學習、工作、生活都有著極其重要的意義。

參考文獻：1.《基礎物理化學》【M】,朱文濤

2.《概率的干涉與態迭加原理》【J】，譚天榮

3.《The Feynman's Lectures on Physics》【M】, Feynman4.《Introducing quantum theory》【M】, Joseph P.McEvoy5.《Quantum Paradoxes and Physical Reality》【M】,F.Selleri

第五篇：概率論與數理統計主要內容小結（模版）

概率論與數理統計主要內容小結

概率部分

1、全概率公式與貝葉斯公式 全概率公式：

P(A)?P(A|B1)P(B1)?P(A|B2)P(B2)???P(A|Bn)P(Bn)

其中B1,B2,?,Bn是空間S的一個劃分。貝葉斯公式：P(Bi|A)?P(Bi)P(A|Bi)?P(B)P(A|B)jjj?1n

其中B1,B2,?,Bn是空間S的一個劃分。

2、互不相容與互不相關

A,B互不相容?A?B??,P(A?B)?0

事件A,B互相獨立?P(A?B)?P(A)(B);兩者沒有必然聯系

3、幾種常見隨機變量概率密度與分布律:兩點分布，二項分布，泊松分布，均勻分布，二項分布，指數分布，正態分布。

X~b(1,p),即二點分布，則分布律為P{x?k}?pk(1?p)1?k,k?0,1.kkX~b(n,p),即二項分布，則分布律為P{x?k}?Cnp(1?p)n?k,k?0,1,...,n.X~?(?),即泊松分布，則分布律為P{x?k}??ke??k!,k?0,1,......?1,x?(a,b)?X~U(a,b),即均勻分布，則概率密度為f(x)??b?a.??0,其它x?1???e,x?0X~E(?),即指數分布，則概率密度為f(x)???.?0,其它?X~N(?,?2),即正態分布，則則概率密度為f(x)?

12?e?x22,???x???.連續性隨機變量X分布函數性質：（i）F(??)?1，F(??)?0,(ii)分布函數連續 對連續性隨機變量X，已知概率密度f(x)，則分布函數為F(x)??已知分布函數為F(x)，則概率密度f(x)?F?(x).對連續性隨機變量X，已知概率密度f(x), 區間概率P{x?L}?

4、連續函數隨機變量函數的概率密度

設連續隨機變量X的概率密度為fX(x),Y?g(X)也是連續型隨機變量，求Y的概率密度 求法

(i)利用以下結論計算：如果函數g(x)處處可導，且恒有g?(x)?0（或g?(x)?0），則Y概率密度為：

x??f(t)dt；

?f(x)dx

L?fX[h(y)]|h?(y)|,??y?? fY(y)??0,其他?g(??),g(??)}.其中，h(y)是g(x)的反函數，且有??min{g(??),g(??)},??max{(ii)利用分布函數計算：先求y?g(x)值域，再在該值域求Y的分布函數

F(y)?P{Y?y}?P{g(X)?y}?P{X?B}?則有fY(y)?F?(y).常用求導公式

?(y)x?B?fX(x)dx

fY(y)?F?(y)???(y)f(x)dx?f(?(y))??(y)?f(?(y))??(y)

5、二維隨機變量分布律

對于二維連續性隨機變量(X,Y)，其聯合概率密度為f(x,y),其聯合分布函數為F(x,y), 則F(x,y)???xy????f(u,v)dvdu，概率密度性質：（i）f(x,y)?0,(ii)

??????????f(u,v)dvdu?1

已知概率密度f(x,y),求區域概率有P{(x,y)?D}?邊緣分布函數為FX(x)?邊緣概率密度為fX(x)???f(x,y)dydx，Dy???????????x??????f(u,v)dvdu,FX(y)?????????f(u,v)dudv，f(x,y)dy,fY(y)??f(x,y)dx.條件分布函數為FX|Y(x|y)??x??yf(x,v)f(u,y)du,FY|X(y|x)??dv，??fY(y)fX(x)條件概率密度為fX|Y(x|y)?f(x,y)f(x,y),fY|X(y|x)?.fY(y)fX(x)對于離散情形，設聯合分布律為P{X?xi,Y?yj}?pij 邊緣概率密度為P{X?xi}??pj?1?ij?pi.，P{Y?yj}??pij?p.j

i?1?條件概率密度為P{Y?yj|X?xi}?

6、二維隨機變量函數的分布

pijpi.，P{X?xi|Y?yj}?pijp.j

設二維隨機變量(X,Y)概率密度為f(x,y)，分布函數為F(x,y)(i)Z=X+Y, 則Z的概率密度為

fZ(z)??f(z?y,y)dy??????????f(x,z?x)dx

fX(z?y)fY(y)dy??fX(x)fY(z?x)dx

????當X,Y相互獨立時，fZ(z)??????(ii)M=max{X,Y}與N=min{X,Y} 當X,Y相互獨立時，FM(z)?FX(z)FY(z)，FN(z)?1?(1?FX(z))(1?FY(z))

7、數學期望

(i)求法：連續隨機變量X概率密度為f(x)，則E(X)??????xf(x)dx；若Y?g(X), 則E(Y)??g(x)f(x)dx.????離散隨機變量分布律為P{x?xk}?pk，則E(X)???xk?1?kpk;若Y?g(X), 則E(X)??g(xk)pk.k?1若有二維的隨機變量(X,Y),其聯合概率密度為f(x,y)，若Y?g(X,Y), 則E(Y)???????????g(x,y)f(x,y)dydx.(ii)性質：E(C)?C,E(CX)?CE(X),E(X?Y)?E(X)?E(Y)

E(k1X1?k2X2???knXn)?k1E(X1)?k2E(X2)???knE(Xn)X,Y相互獨立，則有E(XY)?E(X)E(Y).8、方差

定義：D(X)?E[X?E(X)]2，標準差（均方差）：D(X).計算：D(X)?E(X2)?[E(X)]2

性質：D(C)?0,D(X?C)?D(X),D(CX)?C2D(X).D(X?Y)?D(X)?D(Y)?2E[(X?EX)(Y?EY)].常見分布的數學期望和方差：兩點分布：E(X)?p,D(X)?p(1?p).X~b(n,p),即二項分布，則E(X)?np,D(X)?np(1?p).X~?(?),即泊松分布，則E(X)??,D(X)??.a?b(b?a)2,D(X)?.X~U(a,b),即均勻分布，則E(X)?212X~E(?),即指數分布，則E(X)??,D(X)??2.X~N(?,?2),即正態分布，則E(X)??,D(X)??2.9、協方差與相關系數

定義：協方差: Cov(X,Y)?E{[X?E(X)][Y?E(Y)]}?E(XY)?E(X)E(Y).相關系數：?XY?Cov(X,Y)D(X)D(Y).則有Cov(X,Y)??XYD(X)D(Y).性質：Cov(X,Y)?Cov(Y,X),Cov(X,X)?D(X),Cov(X,a)?0

Cov(aX,bY)?abCov(X,Y),Cov(X1?X2,Y)?Cov(X1,Y)?Cov(X2,Y)

D(X?Y)?D(X)?D(Y)?2Cov(X,Y)

如果X,Y相互獨立，則有D(X?Y)?D(X)?D(Y)

|?XY|?1,且|?XY|?1??a,b,使P{Y?a?bX}?1.10、獨立與不相關關系

?XY?0?X,Y不相關?Cov(X,Y)?0?E(X,Y)?E(X)E(Y)X,Y相互獨立?F(x,y)?F(x)F(y)?f(x)f(y)?E(X,Y)?E(X)E(Y)

F為分布函數，而f為概率密度

一般情況下，X,Y相互獨立?X,Y不相關，但反之不成立；

2特殊情況，當(X,Y)~N(?1,?2;?12,?2;?)時，X,Y相互獨立?X,Y不相關

2并且此時E(X)??1,E(Y)??2;D(X)??12,D(Y)??2;?XY??,Cov(X,Y)???1?2.11、切比雪夫(Chebyshev)不等式：設隨機變量X的期望與方差為E(X)??,D(X)??2，則對任意正數??0，有

P{|X?E(X)|??}?D(X)?2?2, 即P{|X??|??}?2.?D(X)進一步有：P{|X?E(X)|??}?1?

12、兩個中心極限定理

?2?2,即P{|X??|??}?1?2.?定理1（獨立同分布的中心極限定理）設隨機變量X1,X2,?,Xn,?相互獨立，服從同一分布，有相同的數學期望和方差：E(Xk)??,D(Xk)??2?0,k?1,2,?，則

當n充分大時，Yn??Xk?1nk?E(?Xk)k?1nn??Xi?1nk?n?~~~~~~~~D(?Xk)k?1n?近似N(0,1).定理2（棣莫弗-拉普拉斯定理）設隨機變量?n,n?1,2?服從參數為n,p(0?p?1)的二項分布，則當n充分大時，?n?npnp(1?p)~~~~~~~~近似N(0,1)

統計部分

1、常用統計量

設X為總體，X1,X2,?Xn是來自總體X的樣本，定義

1n樣本平均值：X??Xi，ni?1n1n12樣本方差：S?(Xi?X)?(?Xi2?nX2)，?n?1i?1n?1i?12樣本標準差（均方差）：S?1n(Xi?X)2 ?n?1i?11nk樣本k階矩：Ak??Xi,k?1,2,?

ni?

12、常用正態總體相關的統計量（1）?2分布

定義：設Xi~N(0,1),i?1,2,?n，則??性質(i)可加性：設X~222X~?(n)，特別Xi2~?2(1).?ii?1n?2(n1),Y~?2(n2),則X?Y~?2(n1?n2).(ii)設X~?(n),則EX?n,D(X)?2n.(iii)特例：設Xi~N(?,?),則(2)t 分布

定義：設X~N(0,1),Y~?(n), 且X,Y相互獨立，則統計量t?性質

(i)概率密度為偶函數，關于y軸對稱；當n趨于無窮大，該統計量趨于標準的正態分布；(ii)對于分位點有：t1??(n)??t?(n).(3)F分布 定義：設U~21?2?(Xi?1ni??)2~?(n).XY/n~t(n).?(n1),V~?(n2), 且U,V相互獨立，則統計量F?1.F?(n2,n1)Un1~F(n1,n2).Vn2性質(i)對于分位點有：F1??(n1,n2)?

3、正態總體樣本均值與樣本方差分布

單個總體情形：設X為總體，且服從X~N(?,?),X1,X2,?Xn是來自總體X的樣本，X,S分別是樣本均值與樣本方差，有以下結論： 22D(X)?2?,E(S2)?D(X)??2, 而且有(i)E(X)?E(X)??,D(X)?nn?CXii?1ni~N(?Ci?i,?Ci2?i2).i?1i?1nn(ii)X~N(?,?2n), 即

X???/n~N(0,1)；且

1?2?(Xi?1ni?X)?2(n?1)S2?2~?2(n?1)

兩個正態總體情形：設X1,X2,?Xn1是來自X~N(?1,?12)的樣本，Y1,Y2,?Yn2是來22自Y~N(?2,?2為兩樣本方差，)的樣本, 且兩樣本相互獨立，X,Y為兩樣本均值，S12,S2則有

(i)X?Y~N(?1??2,?12n1?2?2n2).2(ii)當?12??2??2時，X?Y?(?1??2)Sw11?n1n2~t(n1?n2?2)，2(n1?1)S12?(n2?1)S2 Sw?n1?n2?22S12/S2(iii)2~F(n1?1,n2?1)2?1/?24.點估計(1)矩估計法

設概率密度f(x;?1,?2,??k)或分布律P{X?x}?p(x;?1,?2,??k)中含?1,?2,??k個參數需要估計。

(i)求總體前k階矩

??1?E(X)??1(?1,?2,?,?k)?2??2?E(X)??2(?1,?2,?,?k)??????E(Xk)??(?,?,??)k12k?k(ii)由以上方程解得

??1??1(?1,?2,?,?k)????(?,?,?,?)?2212k ??????k??k(?1,?2,??k)(iii)以樣本i階矩Ai代替?i,i?1,2,?,n 即得估計量?i??i(A1,A2,?Ak).(2)最大似然估計

定義：給定一組樣本觀測值(x1,x2,?xn)，使該觀測值概率取最大的參數值為所求參數估計值。

兩種求法：I 直接用最大似然法估計計算

(i)寫出似然函數 連續情形：L(?)??f(xi;?)，離散情形：L(?)??p(xi;?)

i?1i?1nn?(ii)求使似然函數取最大值的參數?

兩種方法：取對數，求導數，令導數為0解出?估計值；若求導不行，則用直接分析法(iii)由上寫出估計值，再表示出估計量 II 利用不變性計算

若求函數u?u(?)的最大似然估計，其中u是單調函數，可先求?最大似然估計?，然后利用不變性知u(?)是u(?)的最大似然估計。5.估計量評價標準

?????無偏性：?是?的估計量，如果E(?)??, 則?是?的無偏估計量；

?????更有效； 有效性：?1,?2是?的無偏估計量，如果D(?1)?D(?2)，則?1較?2??一致性：?是?的估計量，當樣本容量趨于無窮大，?依概率收斂于?.6.置信區間 基本的重要概念：

置信水平：是參數?落在置信區間(?,?)的概率，即P(?????)?1??,?,?兩統計量

????1??為置信水平。分別為雙則置信下限與置信上限，例如置信水平為95%，則1???0.95.置信區間幾種情形： 單個總體情形

當?已知，?的置信區間，樞軸量Z?2X???/n~N(0,1)

雙側置信區間：(X??nZ?),雙則置信上、下限：X?2?nZ?,X?2?nZ?.2單側置信區間：(X??nZ?,??)，(??,X??nZ?)單側置信上、下限：X??nZ?,X??nZ?.當?未知，?的置信區間，樞軸量t?2X??S/n~t(n?1)

雙側置信區間：(X?Snt?(n?1))，2雙則置信上、下限：X?Snt?(n?1),X?2Snt?(n?1).2單側置信區間：(X?Snt?(n?1),??)，(??,X?SnSnSnt?(n?1))

單側置信上、下限：X?t?(n?1)，X?t?(n?1)

當?未知，?的置信區間，樞軸量??22(n?1)S2?2~?2(n?1)

(n?1)S2(n?1)S2(n?1)S2(n?1)S2雙側置信區間：(,),雙則置信上、下限：,??(n?1)??(n?1)??(n?1)??(n?1)21?21?22(n?1)S2(n?1)S2單側置信區間：(0,)，(,??)

?1??(n?1)??(n?1)(n?1)S2(n?1)S2單側置信上、下限：.,?1??(n?1)??(n?1)兩個總體情形：

2S12/S2當?1,?2未知，?/?的置信區間，樞軸量F?2~F(n1?1,n2?1)2?1/?22122S12S121雙側置信區間：(2,2S1F?(n1?1,n2?1)S2F21?1)，?(n1?1,n2?1)2S12雙則置信上、下限：2S2F1?S1211,2，?(n1?1,n2?1)S2F?(n1?1,n2?1)22S12S1211單側置信區間：(0,2),(2,??).F(n?1,n?1)F(n?1,n?1)S21??1S2?122S12S1211單側置信上、下限：2,2.S2F1??(n1?1,n2?1)S2F?(n1?1,n2?1)在求解置信區間時，先分清總體屬于那種情況，然后寫出置信區間，再代數值。7.假設檢驗

假設檢驗的基本原理：小概率事件在一次觀測實驗中幾乎不可能發生

顯著性水平?：小概率事件發生的概率，也是拒絕域對應事件概率，顯著性水平越大，拒絕域越大。

兩類錯誤：對原假設H0，備擇假設H1，第一類錯誤H1不真，接受H1，第二類錯誤H0不真，接受H0，為減少兩類錯誤，需增加樣本容量。

假設檢驗的基本步驟：(i)提出假設；(ii)選取檢驗統計量；(iii)確定拒絕域；(iv)計算觀測值(v)并作出拒絕與接收原假設判斷

P值檢驗：計算p值，與顯著性水平?比較，p值小于?拒絕原假設，否則就接收原假設；p值計算方法是將觀測值作為拒絕域臨界點，代入拒絕域事件計算其概率。假設檢驗的情形：

見書中164表，請復印下來，以便記憶，重點是1、2、3、7種情形，其余的也最好熟記。特別要注意，對假設檢驗問題，首先只看總體，是單個總體，還是兩個總體，是對均值檢驗還是方差（精度）檢驗，若是均值檢驗，要看總體方差是已知還是未知，總之要分清情形；另外若是單側檢驗，要寫對原假設與備擇假設，一般問有沒顯著改變，就是雙側檢驗，有沒有顯著提高就是右單側檢驗，有沒有顯著降低就是左單側檢驗；同時，把不含等于的情形作為備擇假設，含有等于的作為原假設，如不超過多少，就是小于等于，這種含有等于，作為原假設。在雙側檢驗中，要寫全拒絕域，然后看觀測值是否滿足不等式，以作推斷?？荚囍攸c：全概率公式，獨立性與不相關性等，一維，二維隨機變量函數的概率密度求法，隨機變量函數的概率密度求法，邊緣概率，條件概率，期望，方差，協方差，點估計及其評價標準，假設檢驗。