scalar 標量
sunspot number
dalton minimum
exponentiation 指數化
資訊理論 對數函式 log2
sigmod 啟用函式
relu 啟用函式
vector 向量
vector space 向量空間
歐幾里德空間
笛卡爾座標系 極座標系
norm of vectors 向量的模
******** inequality
l-0 to l-infinity norms
||x||p
l-0 norms 求其中引數中又多少個非0的（p=0）
l-1 norms 相當於絕對值相加（p=1）
l-2 norms 圓（p=2）
l-infinity norms 距離最大的值xj x1…xj…xn
歐幾里得距離
曼哈頓距離 l-1
matrix
matrix transpose( denoted t )
預設列向量
轉置後——行向量
行row
列column
機器學習 數學基礎
前言 適用本人，在學習中記錄要用的數學知識。1.約束最優化問題求解 拉格朗日乘子法和kkt條件 2.何為二次型，二次型怎麼轉化為標準型及其意義，二次型的矩陣表示，通過正交線形變換將二次型變換為標準型 求該正交線性變換和對應的標準型 3.正定矩陣，半正定矩陣 定義 a是n階方陣，如果對任何非零向量x，...
機器學習數學基礎 （一）
1.1分類 離散值 1.2回歸分析 連續值 資料集分為 訓練集和測試集 訓練集包含n個特徵 feature 和標籤 label 測試集只有特徵沒有標籤。任務就是根據測試集 標籤。2.1聚類 2.2關聯規則 訓練集只有特徵沒有標籤。測試集需要根據已有特徵 標籤。3.1q learning 3.2時間差...
機器學習所需的數學基礎
數學 l1 regularization 這篇文章解釋了l1 regularization為什麼會產生稀疏解，很不錯 拉格朗日乘子法和kkt條件 對偶問題 傅利葉變換 拉普拉斯變換和z變換的意義 特徵值 特徵向量的意義 似然性 最大似然估計 無約束最優化 從線搜尋講到牛頓法 擬牛頓法 bfgs lb...