最近這兩三年,深度學習技術逐步成為了 it 圈最熱門的技術。大多數軟體工程師、計算機方向的在校生都嘗試過做一些深度學習方面的學習和實踐。但是很多人在學習深度學習的第一步就被數學這只攔路虎給擋住了,繼而很多人就調轉方向,遠離深度學習這個熱門而又神奇的ai技術。本場 chat 試圖從深度學習工程實踐的視角,幫助廣大工程師朋友們梳理和學習深度學習中所用到的微積分部分的知識。
本場 chat 主要內容如下:
1.函式與極限;
2.導數與sigmoid啟用函式;
3.微分與積分;
4.單調與凸;
5.softmax loss 的梯度推導。
機器學習與深度學習 微積分知識彙總
微積分是現代數學的基礎,線性代數,矩陣論,概率論,資訊理論,最優化方法等數學課程都需要用到微積分的知識。單就機器學習和深度學習來說,更多用到的是微分。積分基本上只在概率論中被使用,概率密度函式 分布函式等概念和計算都要借助於積分來定義或計算。幾乎所有的機器學習演算法在訓練或者 時都是求解最優化問題,...
深度學習數學基礎之線性代數
深度學習中的基本資料結構,基本上都是用向量或矩陣表示的,因此 深度學習的基礎學科之一 就是線性代數。深度學習中的線性代數知識主要包括以下部分 1 標量 向量 矩陣和張量 這4個變數很好理解 分別表示 乙個數 一維空間 一條線 二維 乙個平面 多於二維 立體或超立體等 2 矩陣的乘法和內積 這個在深度...
深度學習的數學基礎要求
書目如下 概率論與統計 概率與統計 北京大學出版社 陳家鼎degroot,morris h.and mark j.schervish.probability and statistics.3rd ed.boston 高等代數 線性代數 introduction to linear algebra,f...