目錄
二、有限維分布和數字特徵
三、二維隨機過程
在介紹隨機過程之前，我們先回憶一下隨機變數是如何定義的。這一部分是概統中的內容，在這裡我們主要對一些有用的概念做乙個簡單的回顧。
在概率論中的乙個基本概念是隨機試驗，這種試驗的結果不能預先確定。乙個隨機試驗所有可能的基本結果的集合稱為此試驗的樣本空間，記為 \(s\) 。隨機變數就是定義在樣本空間 \(s\) 上的實值單值函式，它給樣本空間 \(s\) 中的每乙個結果都指定了乙個實數值與之對應。
隨機變數的定義：設隨機試驗的樣本空間為 \(s\) ，若 \(x=x(e)\) 為定義在樣本空間 \(s\) 的實值單值函式，則稱 \(x=x(e)\) 為隨機變數。這裡的 \(e\in s\) 代表樣本空間的元素，稱為樣本點。
用對映的方式，我們可以將隨機變數表示為 \(x(e):s\to \mathbb\) 。
隨機過程是一族隨機變數，主要用於描述隨時間變化的隨機現象。
隨機過程的定義：設 \(s\) 是樣本空間，\(t\subset\mathbb\) ，如果對 \(\forall t\in t\) ，\(x(t)\) 是 \(s\) 上的隨機變數，則稱 \(\\) 是 \(s\) 上的隨機過程，稱 \(t\) 為時間引數空間。
用對映的方式，我們可以將隨機過程表示為 \(x(t,e):t\times s\to\mathbb\) 。可以看出，隨機過程是乙個二元實值單值函式。不過這樣的定義未免有些抽象，比較容易的理解方式是單獨考慮每個引數。
我們將 \(x(t)\) 的所有可能取值的全體稱為狀態空間，記為 \(i\) 。根據時間引數空間 \(t\) 和狀態空間 \(i\) 的不同類別，我們可以將隨機過程分為以下四種情況：離散時間離散狀態的隨機過程、離散時間連續狀態的隨機過程、連續時間離散狀態的隨機過程、連續時間連續狀態的隨機過程。
由於隨機過程在任一時刻的狀態都是隨機變數，因此我們可以也利用概率分布和數字特徵來刻畫乙個隨機過程的統計性質。首先我們介紹隨機過程的概率分布，這裡我們需要引入有限維分布的概念。
一維分布函式：給定隨機過程 \(\\) ，對於每乙個固定的 \(t\in t\) ，隨機變數 \(x(t)\) 的分布函式一般與 \(t\) 有關，記為
\[f_t(x)=p(x(t)\leq x) \ , \quad x\in\mathbb \ ,
\]稱為隨機過程 \(\\) 的一維分布函式。當 \(t\) 取遍 \(t\) 中的所有元素時，我們可以得到一系列的分布函式，將這些分布函式的全體所構成的集合稱為一維分布函式族，記為 \(\left\\) 。一維分布函式族刻畫了隨機過程在各個單獨時刻的統計特性。
二維分布函式：對於固定的 \(s,t\in t\) ，將二元隨機變數 \((x(s),\,x(t))\) 的聯合分布函式記為
\[f_(x,y)=p(x(s)\leq x,x(t)\leq y) \ , \quad x\in\mathbb \ , \quad y\in\mathbb \ ,
\]稱為隨機過程 \(\\) 的二維分布函式。
\(n\) 維分布函式：為了描述隨機過程在不同時刻狀態之間的關係，對任意 \(n\) 個不同時刻 \(t_1,t_2,\cdots,t_n\in t\) 引入 \(n\) 維隨機變數 \((x(t_1),x(t_2),\cdots,x(t_n))\) 的分布函式，記為
\[\begin
f_(x_1,x_2,\cdots,x_n)=p(x(t_1)\leq x_1,x(t_2)\leq x_2,\cdots,x(t_n)\leq x_n) \ , \\ \\
x_i\in\mathbb \ , \quad i=1,2,\cdots,n \ ,
\end
\]稱為隨機過程 \(\\) 的 \(n\) 維分布函式。對於固定的 \(n\) ，類似地我們將所有 \(n\) 維分布函式所構成的集合稱為 \(n\) 維分布函式族，記為 \(\(x_1,x_2,\cdots,x_n):t_i\in t,i=1,2,\cdots,n\}\) 。當 \(n\) 充分大時，\(n\) 維分布函式能夠近似地描述隨機過程的統計性質。我們把所有可能的 \(n\) 維分布統稱為有限維分布。
如果我們進一步地讓 \(n\) 取遍所有正整數，把任意維分布函式族的元素都放在一起，便可以得到乙個更大的集合。這就是隨機過程 \(\\) 的有限維分布函式族，記為
\[\left\(x_1,x_2,\cdots,x_n):n=1,2,\cdots,\,t_i\in t,\,i=1,2,\cdots,n\right\} \ .
\]為了便於理解，我們可以將有限維分布函式族用集合的並表示：
\[ \bigcup_^\infty\(x_1,x_2,\cdots,x_n):t_i\in t,i=1,2,\cdots,n\} \ .
\]kolmogorov 定理：有限維分布函式族完全地確定了隨機過程的統計性質。
以上就是關於隨機過程的概率分布的內容，從概念上理解較為抽象，需要結合題目加以練習。這裡需要強調一點，隨機過程在不同的時間點的隨機變數不一定獨立，其聯合分布需要根據具體過程的性質加以計算。
kolmogorov 定理可以告訴我們，乙個隨機過程的有限維分布函式族包含了關於這個隨機過程的所有資訊。但在實際工作中，我們很難確定乙個隨機過程完整的有限維分布函式族，因此我們需要引入某些數字特徵來反映隨機過程的主要性質。一般地，隨機過程的數字特徵是定義在時間引數空間 \(t\) 上的函式。
對於隨機過程 \(\\) ，我們主要研究它的均值函式、方差函式、自協方差函式和自相關函式。這裡我們也會介紹一些由這些數字特徵誘導出來的其他數字特徵，例如均方函式和標準差函式。
均值函式：\(\mu_x(t)=[x(t)]\) 。
二階矩函式：\(\psi_x^2(t)=\left[x(t)\right]^2\) 。
方差函式：\(\sigma_x^2(t)=(x(t))\) 。
標準差函式：\(\sigma_x(t)=\sqrt\) 。
自協方差函式：\(c_x(s,t) =(x(s),x(t))\) 。
利用期望、方差和協方差的運算性質，我們可以得到隨機過程的數字特徵之間的關係：
\[\psi_x^2(t)=r_x(t,t) \ .
\]方程函式和自協方差函式具有如下關係：
\[\sigma^2_x(t)=c_x(t,t) \ .
\]\[c_x(s,t)=r_x(s,t)-\mu_x(s)\mu_x(t) \ .
\]\[r_x(s,t)=r_x(t,s) \ , \quad c_x(s,t)=c_x(t,s) \ .
\]在隨機過程的數字特徵中，我們關注最多的就是均值函式和自協方差函式。一方面是因為其他的數字特徵都可以由均值函式和自協方差函式誘導得出，另一方面是因為均值函式和自協方差函式已經概括了隨機過程較為核心的性質。我們從這兩個數字特徵出發，介紹一些特殊的隨機過程。
二階矩過程：如果對每乙個 \(t\in t\) ，隨機過程 \(\\) 的二階矩 \([x(t)]^2\) 都存在，則稱該隨機過程為二階矩過程。這裡二階矩 \([x(t)]^2\) 存在的含義是 \(\left[x(t)\right]^2<\infty\) 。可以證明，二階矩過程的均值函式、方差函式、自相關函式和自協方差函式都是存在的。
正態過程：對於隨機過程 \(\\) ，如果它的每乙個有限維分布都是正態分佈，則稱該隨機過程為正態過程或高斯過程。正態過程是一種特殊的二階矩過程。正態過程的統計性質完全由它的均值函式和自協方差函式所確定，即正態過程的有限維分布完全由它的均值函式和自協方差函式所確定。
白雜訊過程：設隨機過程 \(\\) 是零均值隨機過程，如果對任意的 \(s\neq t\) 都有 \(r_x(s,\,t)=0\) ，則稱該隨機過程是白雜訊過程。
在實際問題中，我們有時需要研究兩個或兩個以上隨機過程及它們之間的統計關係。除了單獨研究各個隨機過程的統計性質之外，還需要將幾個隨機過程作為整體，進一步研究其統計性質。這裡我們主要討論一下二維隨機過程的定義和隨機過程的獨立性。
二維隨機過程的定義：設 \(\\) 和 \(\\) 是依賴於同一時間引數 \(t\in t\) 的隨機過程，對於任意的 \(t\in t\) ，都有 \((x(t),y(t))\) 是二維隨機向量，則稱 \(\\) 為二維隨機過程。
隨機過程的獨立性：對於隨機過程 \(\\) 和 \(\\) ，如果對任意的正整數 \(n\) 和 \(m\) 以及任意的實數 \(t_1,t_2\cdots,t_n\in t\) 和 \(t_1',t_2',\cdots,t_m'\in t\) ，都有 \(n\) 維隨機向量 \((x(t_1),x(t_2),\cdots,x(t_n))\) 和 \(m\) 維隨機向量 \((y(t_1'),y(t_2'),\cdots,y(t_m'))\) 相互獨立，則稱隨機過程 \(\\) 和 \(\\) 相互獨立。
二維隨機過程的統計性質同樣可以用概率分布和數字特徵來刻畫，由於二維隨機過程的有限維分布並不常用，且在實際問題中往往很難求出，因此我們只介紹二維隨機過程的數字特徵。關於數字特徵，除了每個隨機過程各自的均值函式和自相關函式之外，我們還需要引入互相關函式和互協方差函式，用來刻畫乙個二維隨機過程中的兩個隨機過程之間的關係。
互協方差函式：\(c_(s,t)=(x(s),y(t))\) 。
隨機過程的相關性：對於隨機過程 \(\\) 和 \(\\) ，如果對任意的 \(s,t\in t\) ，都有 \(c_(s,t)=0\) ，則稱隨機過程 \(\\) 和 \(\\) 不相關。
一般地，如果隨機過程 \(\\) 和 \(\\) 不相關，不能推出它們相互獨立。但如果隨機過程 \(\\) 和 \(\\) 相互獨立，且隨機過程 \(\\) 和 \(\\) 都是二階矩過程，則一定有它們不相關。
最後需要強調一點，在使用兩個隨機過程 \(\\) 和 \(\\) 的互相關函式和互協方差函式之前，需要保證每個隨機過程自身都是二階矩過程，即對每乙個 \(t\in t\) 都有 \(\left[x(t)\right]^2<\infty\) 和 \(\left[y(t)\right]^2<\infty\) 。
窄帶隨機過程的產生
1 窄帶隨機過程的產生過程 隨機過程的產生過程如圖1所示，在利用萊斯表示式生成窄帶隨機過程時，需要通過高斯白雜訊生成兩個低頻的隨機過程，即首先使高斯白雜訊通過低通濾波器 本實驗中的使用的低通濾波器為巴特沃斯低通濾波器 得到兩個低頻隨機過程，接著讓兩個隨機過程分別通過乘法器，最後再通過累加器即可得到所...
隨機過程的參考書籍
我讀過的最簡單的隨機過程當屬張波張景肖的 應用隨機過程 清華版，不過馬氏過程寫的不夠詳細，這方面最好的當屬何聲武的 隨機過程引論 寫得相當好，簡單明白易懂。隨機過程引論 中科大 奚巨集生 是一本相當不錯的書和 概率論與數理統計 有銜接。稍微深入一點點的可以看看何書元的 隨機過程 證明除極個別外比較不...
隨機森林的訓練過程
隨機森林顧名思義，是用隨機的方式建立乙個森林，森林裡面有很多的決策樹組成，隨機森林的每一棵決策樹之間是沒有關聯的。在得到森林之後，當有乙個新的輸入樣本進入的時候，就讓森林中的每一棵決策樹分別進行一下判斷，看看這個樣本應該屬於哪一類 對於分類演算法 然後看看哪一類被選擇最多，就 這個樣本為那一類。在建...