深度學習 什麼是marginalization

2021-09-22 01:39:44 字數 980 閱讀 5832

**中經常看到這樣的描述:

谷歌翻譯顯示這個詞的意思是「邊緣化」,那麼在數學中,邊緣化到底代表什麼操作呢?

首先,邊緣化是概率論中的乙個概念,它要求對乙個變數的可能值求和,以確定另乙個變數的邊緣貢獻。這個定義可能聽起來有點抽象,讓我們用乙個例子來說明這一點。

假設我們對天氣如何影響英國人的幸福這一話題感興趣。我們可以把它寫成p(幸福|天氣),即給定天氣型別的情況下乙個人的幸福水平的概率是多少。

假設我們有測量乙個人幸福所需的裝置和定義,並記錄了乙個人所在的英格蘭和另乙個人所在的蘇格蘭的天氣情況。現在,通常來說蘇格蘭人比英格蘭人更幸福。問題是,人們總是有國籍的,所以在測量中我不能擺脫這個因素。所以我們實際測量的是p(幸福,國家|天氣),即我們同時關注幸福和國家

邊緣化告訴我們,如果我們把所有國家的可能性都加起來,我們可以計算出我們想要的數量(記住,英國是由三個部分組成的:英格蘭、蘇格蘭和威爾斯),即p(幸福,國家=英格蘭|天氣)+ p(幸福,國家=蘇格蘭|天氣)+ p(幸福,國家=威爾斯|天氣)。

而就是這樣!邊緣化告訴我們,只要把一些概率加起來就能得到所需的概率量。一旦我們計算出了答案(它可以是乙個單個值或乙個分布),我們就可以得到我們想要的任何屬性(推理)。

回到上文的截圖,對於同乙個輸入x,不同的對齊方式z可能得到相同的結果y,因此p(y|x)實際上是由p(y,z| x) 經過邊緣化的結果,被邊緣的哪個變數就是z。

什麼是深度學習?

讓我們先從深度學習的定義入手,然後順便理一下深度學習 機器學習以及ai之間的一些聯絡 深度學習是指多層的人工神經網路 和訓練它的方法。一層神經網路 會把大量矩陣數字作為輸入,通過非線性啟用方法取權重,再產生另乙個資料 三者聯絡如下 機器學習 抵達ai目標的一條路徑 深度學習是機器學習 研究中的乙個新...

深度學習筆記(一)什麼是深度學習

從簡單的經驗中獲取知識,不需要人類去設計 規範知識,因為層次化的簡單概念可以讓計算機去學習,從而形成複雜的概念,如果用一張圖來表示就是一層一層,所以叫深度學習。ibm深藍 1997年 知識基礎 knowledge base 用公式來表述現實世界,現在還沒有成功案例。機器學習 machine lear...

到底什麼是深度學習?

什麼是學習?說到 深度學習 追根溯源,我們需要先知道什麼是 學習 著名學者赫伯特 西蒙教授 herbert simon,1975 年圖靈獎獲得者 1978 年諾貝爾經濟學 獎獲得者 曾對 學習 下過乙個定義 如果乙個系統,能夠通過執行某個過程,就此改進了它的效能,那麼這個過程就是學習 大師果然名不虛...