機器學習中的數學 多項式分布及其共軛分布

2022-03-16 07:49:59 字數 348 閱讀 8411

二元變數是用來描述只有兩種可能值的量,而當我們遇到一種離散變數,其可以有k種可能的狀態。我們可以使用乙個k維的向量x表示,其中只有一維xk為1,其餘為0。對應於xk=1的引數為μk,表示xk發生時的概率。其分布可以看做是伯努利分布的一般化。

現在我們考慮n個獨立的觀測d=,得到其似然函式。如圖: 

現在我們考慮k個變數的聯合分布,依賴於引數μ和n次觀測,這就構成了多項式分布。 

為了方便起見,如果先驗分布和似然函式有類似的結構,這樣得到的後驗分布就只是指數冪的引數的相加,但形式沒有太大變化,這樣就使得先驗和後驗分布有相同的形式,簡化了計算。 

下面是三個變數的狄利克雷分布的圖形,其中左圖=0.1,中圖=1,右圖=10:

機器學習導論(張志華) 多項式分布

這個筆記是北大那位老師課程的學習筆記,講的概念淺顯易懂,非常有利於我們掌握基本的概念,從而掌握相關的技術。兩個矩陣相似 兩個矩陣特徵值一樣。兩個矩陣合同 矩一樣,就是個數一樣。高斯分布的特性 知道 和 mu 和 sigma 和 就可以確定這個分布,是它的資訊量。學習的是空間區域性點之間的關係。the...

多項式係數學習筆記

今天剛學的東西,簡單記一下 對於多項式 x 1 x 2 x 3 dots x k n 的展開式中 x 1 x 2 x 3 dots x k 這一項 滿足 d 1 d 2 d 3 dots d k n 的係數,記做 frac 將 n 個可分辨的球放到 m 個不同的盒子 t 1,t 2,dots t m...

機器學習 特徵工程 多項式拓展

庫 sklearn.preprocessing.polynomialfeatures 1 polynomialfeatures內部引數 degree 控制多項式的度 interaction only 預設為false,如果指定為true,那麼就不會有特徵自己和自己結合的項,以ab兩項為例的話,拓展出...