機器學習導論(張志華) 條件期望

2021-08-28 08:12:31 字數 775 閱讀 8787

這個筆記是北大那位老師課程的學習筆記,講的概念淺顯易懂,非常有利於我們掌握基本的概念,從而掌握相關的技術。

這節課主要講的是常用統計分布裡的條件期望。

x ‾=

1n∗i

=1na

i\overline =\frac* \quad a_i

x=n1​∗

i=1n

ai​樣本矩陣

p (u

k−σ1

)p(u_k -\sigma_1)

p(uk​−

σ1​)

總體均值

由樣本到總體

a 1.

...a

nd

~d a1

​...

.an​

dmetric σp∗

p\sigma_

σp∗p

​歐式距離計算,加權距離,矩陣求解。

半正定矩陣,特徵值lma

da≥0

lmada \ge 0

lmada≥

0e(x)

e(x|y)

e(x|y=y)

def doc mgf if x is fai(x) =e(e

tx

)e(e^)

e(etx)

ϕ x(

t)=e

tx

\phi_x(t)=\quad e^

ϕx​(t)

=etx

完全單調,充分上揚。

張志華 統計機器學習

第一講 頻率派 貝葉斯學派 首先生成資料的模型服從一種未知的分布,不同於頻率派把模型中的引數當作常數,而是把模型中的引數當作乙個隨機變數,引數服從我們給定的某一種先驗分布,當真實的生成資料來了的時候,我們就可以根據後驗概率最大化來判斷服從已知先驗分布的引數在模型中應該怎樣取值。對概率取log之後的概...

機器學習導論(張志華) 多項式分布

這個筆記是北大那位老師課程的學習筆記,講的概念淺顯易懂,非常有利於我們掌握基本的概念,從而掌握相關的技術。兩個矩陣相似 兩個矩陣特徵值一樣。兩個矩陣合同 矩一樣,就是個數一樣。高斯分布的特性 知道 和 mu 和 sigma 和 就可以確定這個分布,是它的資訊量。學習的是空間區域性點之間的關係。the...

機器學習導論

策略結構風險 正則化項 交叉驗證 混淆矩陣 roc曲線 回歸問題與分類問題本質上都是要建立對映關係 0 1損失 平方損失 絕對損失 對數損失 模型f x 關於訓練資料集的平均損失記為經驗損失 remp 期望風險remp是模型關於聯合分布的期望損失,經驗風險remp是模型關於訓練集的平均損失。根據大數...