第一篇：隨機過程讀書筆記之主要方面
隨機過程讀書筆記之主要方面
(一)整理概率論的基本內容：包括樣本空間，事件，概率，條件概率，獨立事件，貝葉斯公
式，全概率公式；并給出相應概念的若干應用例子。整理概率的基本性質，包括概率的有限可加性，單調性，連續性等。
(二)給出隨機變量的定義，對引入隨機變量的必要性（或為什么引入隨機變量）給出你的理
解；給出隨機變量的累計概率分布函數，離散型隨機變量的概率質量函數和連續性隨機變量的概率密度函數的定義；并總結幾類重要的離散型和連續型隨機變量。
(三)介紹Riemann-Stieltjes的積分定義是怎么回事，給出隨機變量的期望的Riemann-Stieltjes
定義，并在此基礎上給出離散型和連續性隨機變量的期望的具體計算公式；總結期望的性質。
(四)給出隨機變量的聯合分布函數的定義，并引入兩個隨機變量的獨立性的定義；利用聯合分布函數，聯合概率質量函數，聯合概率密度函數，期望，方差，母函數等概念描述兩個隨機變量是獨立的條件。
(五)給出條件期望的引入過程，條件期望的定義和若干重要性質，包括全期望公式，舉例說
明全期望公式的重要性。
(六)給出利用逆變換方法模擬分布函數為F(x)的隨機變量的理論基礎，并給出模擬指數隨機
變量和二項隨機變量的具體過程。
(七)給出隨機過程的定義和相關理解（包括隨機過程與隨機變量的區別和聯系），給出隨機
過程的有限維分布函數族的定義，并舉例如何求解隨機過程的一維和二維分布函數。
(八)總結隨機過程的若干數字特征的定義和理解，包括均值函數，方差函數，協方差函數，相關函數，互相關函數，互協方差函數。
(九)總結幾種重要的隨機過程的定義和相關理解，包括正交增量過程，獨立增量過程，馬爾
科夫過程，正態過程和維納過程等。
第二篇：隨機過程考試題
一．詳述嚴平穩過程與寬平穩過程的區別與聯系。
二．證明獨立增量過程是馬爾科夫過程。
三．某服務臺從上午8時開始有無窮多人排隊等候服務，設只有一名工作人員，每人接受服務的時間是獨立的且服從均值為20min的指數分布。計算：
(1)到中午12時，有多少人離去？
(2)有9人接受服務的概率是多少？
四．設N(t)為泊松過程，構造隨機過程如下：
Z(0)?0，Z(t)=?Yi
i?1N(t)
其中｛Yi｝為獨立同分布的隨即變量序列，且與N(t)獨立。已知Yi的特征函數為?Y(u)，求：
(1)Z(t)的一階特征函數
(2)求E[Z(t)], E[Z2(t)]和var[Z(t)]
五．設馬爾科夫鏈的狀態空間I=｛0,1,…｝中轉移概率為pi,i?1?1/2，pi0?1/2，i=0,1,2…，畫出狀態轉移圖并對狀態分類。
六．設隨機過程Z(t)?Asin(2??1t??2)，其中A是常數，?1與?2是相互獨立的隨機變量，?1服從標準正態分布，?2在[??,?]上均勻分布，證明：
(1)Z(t)是寬平穩過程
(2)Z(t)的均值是各態歷經的
第三篇：隨機過程證明題 合工大
一、證明題
?證明公式EE?X|Y??EX
??
以X、Y為連續性分布進行證明，離散情形類似
設其邊緣分布函數和聯合分布函數分別為fX?x?,fY?y?和f?x,y?記m?y?=E?X|Y?y?=?x?fX|Y?x,y?dx??x-?
-?
+?
+?
f?x,y?
dxfYy+?+?
?E?m?y???
+?+?
+?
-?
?
m?y??fY?y?dy??
-?-?
?
xf?x,y?
dx?fY?y?dyfYy?
-?-?
??x?f?x,y?dxdy?EX
?矩母函數相關證明
tY
1.?gY?t??E?etY??E?Ee|N?n?????運用公式E?E?X|Y???EX
??
?先證明條件期望E?etY|N?n?
?t?Xi?=E?ei?1|N?n?
????nN
?t?Xi??t?Xi?
?E?ei?1|N?n??E?ei?1??因為N與Xi獨立?
????????=gX1??Xn?t?=gX1?t??gX2?t??gXn?t????gX?t????gY?t??E?etY??E??gX?t???
N
N
?
N
?
?
?
2.由矩母函數可以求得X的k階原點矩的值E?Xk??g?k??0??gY'?t??EN??gX?t???
?
N?1
?gX'?t?
N?1
??
N?2
gY'?0??EY?EN??gX?0???
''
?
?gX'?0??E?N?1?E?X???EX?EN其中gX?0??E?e0?x??1
??gX?t???N??gX?t???
'
N?1
3.?gY?t??EN??N?1???gX?t???gY''?0??EN??N?1???gX?0???
?
?gX''?t?
?
?
N?2
??gX'?0???N??gX?0???
N?1
?gX''?0?
?
??
?E?N?EX??NEX?N?EX??=E?N?EX??N?DX?
?EN??N?1???EX??NEX2
?EN2??EX??EN?DX
?證明EY?g?X???2?E?Y?E?Y|X?? 2
記m?X??E?Y|X?
E??Y?g?X????E???Y?m?X????m?X??g?X????
2222?E??Y?m?X????E??m?X??g?X????2E???Y?m?X???m?X??g?X????
?E???Y?m?X???m?X??g?X????
???
?E??m?X??g?X??E???Y?m?X??|X????運用P12性質3?
又?E???Y?m?X??|X???E?Y|X??E?m?X?|X?
?m?X??m?X??E?1|X??0?運用P12性質3?
222?EE???Y?m?X???m?X??g?X??|X??運用性質E?E?X|Y???EX??E??Y?g?X????E??Y?m?X????E??m?X??g?X????E??Y?m?X????E??Y?E?Y|X???
第四篇：應用統計與隨機過程實驗報告
實驗三 線性系統對隨機過程的響應
一、實驗目的
通過本仿真實驗了解正態白色噪聲隨機過程通過線性系統后相關函數以及功率譜的變化；培養計算機編程能力。
二、實驗要求
采用MATLAB或VB語言進行編程
1)運用正態分布隨機數產生函數產生均值為零、根方差=1的白色噪聲樣本序列[或可參考實驗1的正態分布產生方法]{u(n)|n=1, 2,…,2000}；畫出噪聲u(n)的波形圖。2)設離散時間線性系統的差分方程為
x(n)?u(n)-0.36u(n-1)?0.85u(n-2)(n?3,4,...,2000)畫出x(n)的波形圖。
3)隨機過程x(n)的理論上的功率譜密度函數為 S(?)?|1?0.36e?j??0.85e?j2?|2 在[0,π]范圍內對w進行采樣，采樣間隔0.001π，計算S(i×
0.001π)(i=1,2,…,1000);畫出波形圖。
4)根據步驟(2)產生的數據序列x(n)計算相關函數的估計值 ?(m)?RX20001x(n)x(n?m)(m?0,1,2,3,4,5)?1998?mn?3?m 與理論值1.1296、-0.666、0.85、0、0、0的差異。
5)根據相關函數的估計值對隨機過程的功率譜密度函數進行估計
?(0)?2R?(1)cos(?)?2R?(2)cos(2?)S1(?)?RXXX 在[0,π]范圍內對w進行采樣，采樣間隔0.001π，計算S1(i× 0.001π)(i=1,2,…,1000);畫出波形圖；比較其與理論上的功率 譜密度函數S(w)的差異。
6)仿照實驗1的方法統計數據x(n)在不同區間出現的概率,計算其理論概率，觀察二者是否基本一致。
三、實驗代碼及結果
1.運用正態分布隨機數產生函數產生均值為零、根方差=1的白色噪聲樣本序列[或可參考實驗1的正態分布產生方法]{u(n)|n=1, 2,…,2000}；畫出噪聲u(n)的波形圖。代碼：
n=1:2000;u1(n)=rand(1,2000);u2(n)=rand(1,2000);u(n)=sqrt(-2*log(u1(n))).*cos(2*pi*u2(n));stem(u,'.');title('u(n)');波形圖：
分析：運用正態分布隨機數產生函數產生均值為零、根方差?=1的白色噪聲樣本序列。
2.設離散時間線性系統的差分方程為 x(n)?u(n)-0.36u(n-1)?0.85u(n-2)(n?3,4,...,2000)畫出x(n)的波形圖。代碼：
n=3:2000;x(n)=u(n)-0.36*u(n-1)+0.85*u(n-2);stem(x,'.');title('x(n)');波形圖：
分析：正態隨機序列通過線性離散系統生成的還是正態隨機序列。3.隨機過程x(n)的理論上的功率譜密度函數為 S(?)?|1?0.36e?j??0.85e?j2?|在[0,π]范圍內對w進行采樣，采樣間隔0.001π，計算S(i×
0.001π)(i=1,2,…,1000);畫出波形圖。代碼：
i=1:1000;w=0.001*pi.*i;s=(abs(1-0.36.*exp((-1j).*w)+0.85.*exp((-2j).*w))).*(abs(1-0.36.*exp((-1j).*w)+0.85.*exp((-2j).*w)));stem(s,'.');title('s(i*0.001*pi)');波形圖：
4.根據步驟(2)產生的數據序列x(n)計算相關函數的估計值 ?(m)?RX20001?x(n)x(n?m)(m?0,1,2,3,4,5)1998?mn?3?m 與理論值1.1296、-0.666、0.85、0、0、0的差異。代碼：
Rx=rand(1,6);for m=1:1:6 sum=0;for n=(3+m):1:2000 sum=sum+x(n)*x(n-m+1);end Rx(m)=sum/(1999-m);end S1=rand(1,1000);for i=1:1:1000 S1(i)=Rx(1)+2*Rx(2)*cos(i*0.001*pi)+2*Rx(3)*cos(2*i*0.001*pi);end figure stem(S1)運行結果：
分析：所得的數據與理論值1.1296、-0.666、0.85、0、0、0存在一定的差異。5.根據相關函數的估計值對隨機過程的功率譜密度函數進行估計
?(0)?2R?(1)cos(?)?2R?(2)cos(2?)S1(?)?RXXX 在[0,π]范圍內對w進行采樣，采樣間隔0.001π，計算S1(i× 0.001π)(i=1,2,…,1000);畫出波形圖；比較其與理論上的功率 譜密度函數S(w)的差異。代碼：
N=1000;P1=0;P2=0;P3=0;P4=0;for n=3:1:N If(x(n)<-1)P1=P1+1;else if(x(n)>=-1&x(n)<=0)P2=P2+1;else if(x(n)>0&x(n)<=1)P3=P3+1;else P4=P4+1;end end end end p1=P1/N p2=P2/N p3=P3/N p4=P4/N p=p1+p2+p3+p4 figure hist(x,1000)return 運行結果：
分析：采樣計算得到的功率譜密度函數比較其與理論上的功率譜密度函數相比，沒有完全成偶對稱。數據的概率分布沒有理論那樣均勻。6.分析：
理論概率Rx = 1.8315-0.6430 0.8528-0.0473-0.0096-0.0102。所以二者基本一致。
第五篇：應用隨機過程學習總結
應用隨機過程學習總結
一、預備知識：概率論
隨機過程屬于概率論的動態部分，即隨機變量隨時間不斷發展變化的過程，它以概率論作為主要的基礎知識。
1、概率空間方面，主要掌握sigma代數和可測空間，在隨機過程中由總體樣本空間所構成的集合族。符號解釋： sup表示上確界，inf表示下確界。本帖隱藏的內容
2、數字特征、矩母函數與特征函數：隨機變量完全由其概率分布來描述。其中由于概率分布較難確定，因此通常計算隨機變量的數字特征來估算分布總體，而矩母函數和特征函數便用于隨機變量的N階矩計算，同時唯一的決定概率分布。
3、獨立性和條件期望：獨立隨機變量和的分布通常由卷積來表示，對于同為分布函數的兩個函數，卷積可以交換順序，同時滿足結合律和分配率。條件期望中，最重要的是理解并記憶E(X)= E[E(X|Y)] = intergral(E(X|Y=y))dFY(y)。
二、隨機過程基本概念和類型
隨機過程是概率空間上的一族隨機變量。因為研究隨機過程主要是研究其統計規律性，由Kolmogorov定理可知，隨機過程的有限維分布族是隨機過程概率特征的完整描述。同樣，隨機過程的有限維分布也通過某些數值特征來描述。
1、平穩過程，通常研究寬平穩過程：如果X(t1)和X(t2)的自協方差函數r(t1,t2)=r(0,t-s)均成立，即隨機過程X(t)的協方差函數r(t,s)只與時間差t-s有關，r(t)= r(-t)記為寬平穩隨機過程。
因為一條隨機序列僅僅是隨機過程的一次觀察，那么遍歷性問題便是希望將隨即過程的均值和自協方差從這一條樣本路徑中估計出來，因此寬平穩序列只需滿足其均值遍歷性原理和協方差遍歷性原理即可。
2、獨立增量過程：若X[Tn]– X[T(n-1)]對任意n均相互獨立，則稱X(t)是獨立增量過程。若獨立增量過程的特征函數具有可乘性，則其必為平穩增量過程。
兼有獨立增量和平穩增量的過程稱為平穩獨立增量過程，其均值函數一定是時間t的線性函數。
3、隨機過程的分類不是絕對的。例如，泊松過程既具有獨立增量又有平穩增量，既是連續時間的馬爾科夫鏈，又是一類特殊的更新過程。參數為lambda的泊松過程減去其均值函數同時還是一個鞅。
三、泊松過程
計數過程｛N(t), t>=0｝是參數為λ的泊松過程（λ> 0），具有平穩獨立增量性。而其任意時間長度t發生的次數服從均值為λ* t的泊松分布，即E[N(t)]= λ* t。
1、與泊松過程有關的若干分布：Xn表示第n次與第n-1次事件發生的時間間隔，定義Tn表示第n次事件發生的時刻，規定T0= 0。其中，Xn服從參數為λ的指數分布，且相互獨立。泊松過程在任何時候都是重新開始。Tn服從參數為n和λ的Γ分布
四、更新過程
更新過程{N(t),t>=0}中Xn仍保持獨立同分布性，但分布任意，不再局限于指數分布。更新過程中事件發生一次叫做一次更新，此時Xn就是第n-1次和第n次更新相距的時間，Tn是第n次更新發生的時刻，而N(t)就是t時刻之前發生的總的更新次數。
由強大數定理可知，無窮多次更新只可能在無限長的時間內發生。因此，有限長時間內最多只能發生有限次更新。
1、更新函數：更新理論中大部分內容都是有關E[N(t)]的性質。以M(t)記為E[N(t)]，稱為更新函數。此時，M(t)是關于t的函數而不是隨機變量。
2、更 新方程：若H(t)，F(t)為已知，且當t<0時，H(t)與F(t)均為0，同時當H(t)在任何區間上有界時，稱具有如下形式的方程K(t)= H(t)+ intergral(K(t-s)*dF(s))的方程稱為更新方程。當H(t)為有界函數時，更新方程存在唯一的有限區間內的有界的解K(t)= H(t)+ intergral(H(t-s)*dM(s))。
3、更新定理：Feller初等定理、Blackwell更新定理、關鍵更新定理。其中Blackwell定理指出，在遠離原點的某長度為a的區間內，更新次數的期望是a/u，u = E(Xn)。同時，Smith關鍵更新定理與Blackwell定理等價。
五、馬爾科夫鏈 馬 爾科夫鏈中的轉移概率為條件概率，同時給定過去的狀態X0，?，Xn-1和現在的狀態Xn，將來的狀態Xn+1的條件分布與過去的狀態獨立，只依賴于現在 的狀態。其中，Pij = P{Xn+1=j | Xn=i}為馬爾科夫鏈的一步轉移概率，它代表處于狀態i的過程下一步轉移到狀態j的概率。
當轉移概率Pij只與狀態i，j有關而與n無關時，稱為時齊馬爾科夫鏈，同時當狀態有限時，稱為有限鏈。轉移概率矩陣中概率非負，同時隨機矩陣中每一行的元素和為1。
記Pij(n)為n步轉移概率，它指系統從狀態i經過n步后轉移到狀態j的概率，而對中間n-1步轉移經過的狀態無要求。對n步轉移概率和轉移矩陣，有C-K方程公式。
1.狀態的分類和性質：如果狀態i經過n步轉移后到達j的概率大于0，稱狀態i可達狀態j。若同時狀態j可達狀態i，則稱i與j互通，兩兩互通的狀態有傳遞 性。我們將互通的各個狀態歸為一類，自己和自己互通，當一個馬爾科夫鏈中只有一類時稱為不可約類，否則則是可約類。
如果狀態i可以經過n步回到i狀態，則將所有n的最大公約數記為狀態i的周期，即d(i)，如果d>1，則稱i是周期的，如果d=1則為非周期，空集時為無窮大。同屬于一類的兩狀態周期相同。
記 狀態i出發經n步后首次到達j的概率為Fij(n)，則所有可能n的概率Fij(n)加起來的和記為Fij。若Fij=1，i為常返狀態，Fij< 1，i為非常返狀態或瞬時狀態。對于常返狀態i，記Ui為從i第一次回到i的期望步長，若Ui有限，稱i為正常返狀態，若趨于無窮大，則為零常返狀態。若 正常返狀態i同時還是非周期的，則稱之為遍歷狀態。若遍歷狀態且Fii(1)=1，則稱為吸收狀態，此時Ui=1。
對于同屬于一類的狀態i，j，他們同為常返狀態或非常返狀態，并且當他們是常返狀態時，又同為正常返狀態或零常返狀態。狀態i至j的n步轉移概率與首達概率間存在一定關系。同時若i與j互通且i為常返狀態，則Fji = 1。2.極限定理及平穩分布：馬爾科夫鏈的極限情況即狀態i經過無窮多步轉移后到達i的概率是多少。有結論，若狀態i是周期為d的常返狀態，則Pii(nd)= d/Ui，即經過無窮多步后回到i的概率為常數，上述定理對Pij也有效。同時，不可約的有限馬爾科夫鏈是正常返的。
若 對于馬爾科夫鏈Pj = P(Xn = j)= sum(Pi*Pij)，則概率分布Pj為平穩分布。因為此時，對于任意Xn均有相同的分布。同時，對于遍歷的馬爾科夫鏈，極限分布就是平穩分布并且還是 唯一的平穩分布。極限分布即為很長時間后，無論最開始狀態如何，最終達到某一狀態的概率。若對于遍歷的馬爾科夫鏈，該概率是穩定的趨于常數。
3.連續時間馬爾科夫鏈、Kolmogorov微分方程
六、鞅
鞅 的定義是從條件期望出發，如果每次賭博的輸贏機會是均等的，并且賭博策略依賴于前面的賭博結果，賭博是“公平的”。因此，任何賭博者都不可能通過改變賭博 策略將公平的賭博變成有利于的賭博。如果將“鞅”描述的是“公平”的賭博，下鞅和上鞅分別描述了“有利”賭博與“不利”賭博。
隨機過程｛Sn, n>=0｝稱為Fn=sigma{X0,X1,?,Xn}適應的，如果對任意n>=0，Sn是Fn可測的，即Sn可以表示為X0,X1,X2,?,Xn的函數
1.鞅的停時定理：任意隨機函數T是關于{Xn，n>=0}的停時，即{T=n}應由n時刻及其之前的信息完全確定，而不需要也無法借助將來的情況，同時T必須是一個停時。同時，{T<=n}和{T>=n}也由n時刻及其之前的信息完全確定。若T和S是兩個停時，則 T+S，min{T,S}和max{T,S}也是停時。
則在一直Fn完全信息的前提下，有界停時的期望賭本與初始賭本相同。特別的，當完全信息未知時，有界停時的期望賭本與初始賭本的期望相同。
2.鞅的一致可積性：如果對任意ε>0，存在δ>0，使得對任意A，當P(A)<δ時，有E(|Xn|Ia)<ε對任意n成立。一致可積條件一般較難驗證，因此存在兩個一致可積的充分條件。
3.鞅的收斂定理：在很一般的情況下，鞅｛Mn｝會收斂到一個隨機變量。即對于｛Mn, n>=0｝是關于｛Xn, n>=0｝的鞅，并且存在常數C有限，使得E(|Mn|) 七、布朗運動 若B(0)=0，{B(t),t>=0}有平穩獨立增量，對每個t>0，B(t)服從正態分布N(0, t)稱之為標準布朗運動。布朗運動的二次變差[B,B](t)= t。 布 朗運動是滿足以下三點性質的隨即過程，即對于B(t)-B(s)~ N(0,t-s)，B(t)-B(s)服從均值為0，方差為t-s的正態分布。當s=0時，B(t)-B(0)~N(0,t)。并且，對任意0& lt;=s 1.高斯過程：有限維分布是多元正態分布的隨機過程。布朗運動是一種特殊的高斯過程，即B(t)的任何有限維分布都是正態的。2.｛B(t)｝是鞅，｛B(t)^2t｝也是鞅，則｛X(t)｝是布朗運動。 3.布朗運動｛B(t)｝具有馬爾科夫性，容易得到B(t+s)在給定條件Ft=sigma(B(0),B(1),?,B(t))下的分布與在給定條件 B(t)下的分布是一致的。同時由布朗運動具有時齊性，即分布不隨時間的平移而變化可知，布朗運動的所有有限維分布都是時齊的。 4.布朗運動的最大值變量及反正弦率：即求始于y點的布朗運動在區間(a,b)中至少有一個零點的概率為布朗運動的反正弦率。 5.幾何布朗運動X(t)= exp｛B(t)｝為幾何布朗運動。在金融市場中，人們經常假定股票價格是按照幾何布朗運動而發生變化。 八、隨機積分 1.布朗運動的積分，Ito積分過程，Ito公式，隨機微分方程 2.Black-Scholes模型
點擊咨詢 