機器學習初級重要概念
資料的歸一化計算
z-score 歸一化
min-max歸一化
動態學習率與動量的優化演算法
adadelta
動量adam
rmsprop
神經網路的fp和bp的計算與推導
啟用函式是什麼？如何計算？導數是什麼？
輸入數值如何進行計算輸出值
如何求得任意的引數的梯度
下一輪的引數會如何進行梯度更新
loss函式/方差/交叉熵
分類和回歸的loss函式
如何求loss
資訊理論中對於熵的計算
資訊熵條件熵
資訊增益
交叉熵相對熵
基本概念均值/方差/中位數/概率/條件概率/樸素貝葉斯**/分布
求導/求偏導/牛頓法/梯度下降
一元函式的求導
多元函式的求導
loss函式對於引數的梯度下降更新
loss函式對於引數的牛頓法下降更新
求解矩陣四則運算/通過矩陣解方程/零空間/最小二乘/lp範數
機器學習重要概念補充
多項式回歸對非線性資料進行處理的方法 研究乙個因變數與乙個或多個自變數間多項式的回歸分析方法，稱為多項式回歸 polynomial regression 完全是使用線性回歸的思路，關鍵在於為資料新增新的特徵，而這些新的特徵是原有的特徵的多項式組合，採用這樣的方式就能解決非線性問題。多項式回歸是公升維...
初級演算法班（1） 機器學習相關概念
寫在前面 這是初級演算法版第一次作業的第二部分，同樣由於時間原因準備的不充分，使用的是csdn的富文字編輯器，今天結束後會熟悉一下markdown編輯器，希望下次至少在格式上有所改進。一.有監督學習 1 從有標記的訓練資料中推導出 函式 2 有標記的訓練資料是指每個訓練例項都包括輸入和期望的輸出 3...
重要機器學習演算法
從svm到隨機森林，再到梯度提公升機，他們都是機器學習領域應用廣泛的代表。svm的理解可以參考該部落格 svm，支援向量機就是一種將低維資料通過核函式對映到高維空間，對資料進行某種變換，使得資料在高維空間可以輕易的實現分離。隨機森林 發現隨機森林這個演算法在分類問題上效果十分的好，大多數情況下效果遠...