2 機器學習相關數學基礎

一、學習筆記

1.線性代數

1）基本概念

2）矩陣

3）向量

2.概率論

1）事件

2）概率

3）概率分布

4）期望和方差

二、關於「梯度」，「梯度下降」和「貝葉斯定理」

梯度：梯度是乙個向量，它的方向與取得最大方向導數的方向一致，而它的模為方向導數的最大值。即函式在該點處沿著梯度的方向變化最快，變化率最大

梯度下降：比如說下山的過程中，但是不知道從哪下山可以最快到山腳，這個時候可以求出梯度值，然後沿著梯度的負方向，也就是當前位置最陡峭的方向走一步，再繼續求當前位置的梯度，通過這樣的方式一步一步往下走，直到到達山腳，這整個過程就是梯度下降。

貝葉斯定理：貝葉斯定理是關於隨機事件a和b的條件概率的一則定理。例如事件a有可能是由多個事件引起的，現在知道事件a發生了，我想知道事件a是由事件b引起的或者是其他事件引起的概率，就可以用貝葉斯定理來計算。