馬爾可夫過程
馬爾科度模型
馬爾可夫鏈
關鍵引數
1.1 馬爾可夫過程
馬爾可夫過程(markov process)是一類隨機過程。由**數學家a.a.馬爾可夫於2023年提出。該過程具有如下特性:在已知目前狀態(現在)的條件下,它未來的演變(將來)不依賴於它以往的演變 (過去 )。
1.2 馬爾可夫模型
乙個馬爾科夫過程就是指過程中的每個狀態的轉移只依賴於之前的 n個狀態,這個過程被稱為 n階馬爾科夫模型,其中 n是影響轉移狀態的數目。最簡單的馬爾科夫過程就是一階過程,每乙個狀態的轉移只依賴於其之前的那乙個狀態,這也是後面很多模型的討論基礎,很多時候馬爾科夫鏈、隱馬爾可夫模型都是只討論一階模型,甚至很多文章就將一階模型稱之為馬爾科夫模型,現在我們知道一階只是一種特例而已了。
對於一階馬爾科夫模型,如果第 i 時刻上的取值依賴於且僅依賴於第 i−1 時刻的取值,即
從這個式子可以看出,xi 僅僅與 xi-1有關,二跟他前面的都沒有關係了,這就是一階過程。
1.3 馬爾可夫鏈
時間和狀態都是離散的馬爾可夫過程稱為馬爾可夫鏈,簡記為xn=x(n),n=0,1,2…馬爾可夫鏈是隨機變數x1,x2,x3…的乙個數列。
總結:馬爾科夫過程指的是乙個狀態不斷演變的過程,對其進行建模後稱之為馬爾科夫模型,在一定程度上,馬爾科夫過程和馬爾科夫鏈可以打等號的。
1.4 關鍵引數
(1)關鍵概念——狀態空間
馬爾可夫鏈是隨機變數x1,x2,x3…xn所組成的乙個數列,每乙個變數xi 都有幾種不同的可能取值,即他們所有可能取值的集合,被稱為「狀態空間」,而xn的值則是在時間n的狀態。
(2)關鍵概念——轉移概率(transition probability)
馬爾可夫鏈可以用條件概率模型來描述。我們把在前一時刻某取值下當前時刻取值的條件概率稱作轉移概率。
上面是乙個條件概率,表示在前乙個狀態為s的條件下,當前狀態為t的概率是多少。
(3)關鍵概念——轉移概率矩陣
很明顯,由於在每乙個不同的時刻狀態不止一種,所以由前乙個時刻的狀態轉移到當前的某乙個狀態有幾種情況,那麼所有的條件概率會組成乙個矩陣,這個矩陣就稱之為「轉移概率矩陣」。比如每乙個時刻的狀態有n中,前一時刻的每一種狀態都有可能轉移到當前時刻的任意一種狀態,所以一共有n*n種情況,組織成乙個矩陣形式如下:
隱馬爾可夫模型(一) 馬爾可夫模型
馬爾可夫模型 markov model 描述了一類隨機變數隨時間而變化的隨機函式。考察乙個狀態序列 此時隨機變數為狀態值 這些狀態並不是相互獨立的,每個狀態的值依賴於序列中此狀態之前的狀態。乙個系統由n個狀態s 隨著時間的推移,該系統從乙個狀態轉換成另乙個狀態。q 為乙個狀態序列,qi s,在t時刻...
隱馬爾可夫模型
隱 馬爾可夫模型 hidden markov model,hmm 作為一種統計分析模型,創立於20世紀70年代。80 年代得到了傳播和發展,成為訊號處理的乙個重要方向,現已成功地用於語音識別 行為識別,文字識別以及故障診斷等領域。隱馬爾可夫模型是馬爾可夫鏈的一種,它的狀態不能直接觀察到,但能通過觀測...
馬爾可夫模型 Markov models
markov假設有一系列的事件 狀態或其他事物,後一事件的發生取決於前一事件。這樣我們可以構造乙個markov鏈,並畫圖。我們還可以將每乙個狀態之間的轉換可能性數值列出成為transition matrix 所以馬爾可夫鏈經過n步之後的狀態可以由transition matrix和乙個初始狀態的列向...