為了更好地理解隱馬爾科夫鏈，特意翻出了隨機過程的教科書來進行學習。以下是我整理出的筆記。
注意：這只是為理解隱馬爾科夫鏈做準備的。學習概率論的同學請轉到其他部落格~
隨機變數的特點：在每次試驗的結果中，以一定的概率取某些實現未知、但為確定的「數值」。
在實際問題中，我們需要研究在試驗過程中隨著時間而變化的隨機變數，即隨時間的改變而隨機變化的過程。
隨機過程：隨引數（比如時間）改變而隨機變化的過程稱為隨機過程，把這個引數稱為時間。
在一次試驗中，隨機過程取乙個樣本向量或樣本數列或樣本函式，但究竟取哪乙個則帶有隨機性。但在大量的觀察中，樣本的出現是有統計規律性的。
（1）連續型隨機過程：t是連續集，且對於任意的t∈t，x(t)是連續型隨機變數，也就是時間和狀態皆為連續的情況。
（2）離散型隨機過程：t是連續集，且對於任意的t∈t，x(t)是離散型隨機變數。
（3）連續型隨機序列：t是離散集，且對於任意的t∈t，x(t)是連續型隨機變數，它對應於時間離散、狀態連續的情況，實際上，它可以用隊連續性隨機變數進行順序等時間間隔取樣得到。。
（4）離散型隨機序列：隨機數字序列，隨機過程的時間和狀態都是離散的，為了適應數位化的需求，對連續型隨機過程進行等時間間隔取樣，派兵將取樣值量化、分層，即得到這種連三隨機過程，
由以上可知，最基本的是連續型隨機過程，其他三類只是對它做離散處理而得。
隨機過程在任一時刻的狀態是隨機變數，由此可以利用隨機變數的統計描述方法來描述隨機過程的統計特性。
給定隨機過程，對於每個特定的t∈t,隨機變數x(t)的分布函式一般與t有關，記為
f(x,t) = p,x∈r1
稱他為隨機過程的以為分布函式，稱
f1 =
為的一維分布函式。
對於取定的n，我們稱
fn=隨機過程的有限維分布函式族能完整地刻畫隨機過程的統計特徵。
（略，請雙擊上方小標題檢視）
當過程在時刻 t0 所處的狀態為已知時，過程在時刻t(t > t0 )處的狀態，而與過程在 t0 時刻以前所處的狀態無關。這種特性稱為無後效性或者馬爾可夫性。
過程的統計特性不隨時間的推移而改變，
如果對任意正整數n，任意t1,t2,t3……tn∈t，x（t1）,x(t2),……x(tn)的聯合分布是n維正態分佈，則稱是高斯過程或者正態過程。
條件隨機場（CRF） qjzcy的部落格
一 非線性規劃 二 求熵值最大化 三 2個限制條件 四 拉格朗日方程 五 對偶表示式 六 數值優化 條件隨機場 一 非線性規劃 其實整個公式基本上就是非線性規劃的經典流程，有興趣大家可以看看非線性規劃，有助於理解，沒有直接跳過也可以，非線性規劃的流程圖我幫大家拉到這兒，大家可以對照著看看對應流程是怎...
條件隨機場（CRF）的詳細解釋
條件隨機場 crf 由lafferty等人於2001年提出，結合了最大熵模型和隱馬爾可夫模型的特點，是一種無向圖模型，常用於標註或分析序列資料，如自然語言文字或是生物序列。近年來在分詞 詞性標註和命名實體識別等序列標註任務中取得了很好的效果。條件隨機場是一類最適合 任務的判別模型，其中相鄰的上下文資...
推導條件隨機場引數估計的全過程
著作權歸作者所有。寫在前面的部分 條件隨機場結構各種各樣，我們來個最簡單的線性條件隨機場，推導的方法也用最簡單的梯度下降法。想必要對條件隨機場進行引數估計的 一定對crf有所理解，一些基本概念再次忽略，可以參考 an introduction to conditional random fields...