深度學習的數學基礎要求

2021-07-27 17:19:11 字數 466 閱讀 5331

書目如下:

概率論與統計    概率與統計 北京大學出版社 陳家鼎degroot, morris h., and mark j. schervish. probability and statistics. 3rd ed. boston

高等代數、線性代數   introduction to linear algebra, fourth edition by gilbert strang

probabilistic graphical models  概率圖模型

linear and nonlinear optimization 線性與非線性優化 

convex optimization 凸優化

real analysis  實分析

functional analysis  泛函分析

stochastic process 隨機過程

theory of probability 概率論

深度學習(一) 數學基礎

一 線性代數 1 定義深度學習相關的主要線性代數數學模型包括標量 向量 矩陣和張量。2 計算方式 加減法比較簡單,都是點對點加減,形態不變。乘法方式不同可能導致形態變化。如向量可點積 變為乙個值 也可以叉積。二維向量叉積等於 矩陣可以點對點乘積,也可以矩陣乘積 3 範數 l0 l1和l2範數各有不同...

3 數學基礎與深度學習

紮實的數學基礎是學習和研究深度學習的前提。沒有線性代數和統計學相關的知識,無法真正理解任何機器學習演算法的核心思想。在此要求所有的新生學習相關的數學基礎課程。prof.gilbert strang在mit講的線性代數 膜拜 是工科領域最強線代。來自cmu,世界上最好的工科統計學教材。學習內容 書上全...

Pytorch學習 6深度學習數學基礎

損失函式 loss function 是用來估量模型的 值 我們例子中的output 與真實值 例子中的y train 的不一致程度,它是乙個非負實值函式,損失函式越小,模型的魯棒性就越好。我們訓練模型的過程,就是通過不斷的迭代計算,使用梯度下降的優化演算法,使得損失函式越來越小。損失函式越小就表示...