線性代數知識
微積分知識
概率與統計知識
矩陣中的基本概念、矩陣的加法、矩陣的乘法、矩陣的轉置、矩陣的運算法則、矩陣的逆
矩陣
定義：由 m × n 個數 aij (i = 1,2,...,m; j = 1,2,...,n) 排成的 m 行 n 列的數表 a 就稱為 m 行 n 列的矩陣
這 m × n 個數稱作矩陣 a 的元素，元素 aij 位於矩陣 a 的第 i 行第 j 列
m × n 矩陣 a 可以記作 am×n，其中 m是行數，n是列數，m, n > 0
特殊矩陣：對於am×n，如果 m = n，即矩陣的行數與列數相等，那麼稱a為方陣
基本概念：
行數與列數都等於 n 的矩陣稱為 n 階矩陣，又稱做n 階方陣，可以記作 an
只有一行的矩陣 a1×n 稱為行矩陣，又叫行向量
同樣，只有一列的矩陣 an×1 稱為列矩陣，又叫列向量
對於方陣，從左上角到右下角的直線，叫做主對角線，主對角線上的元素稱為主對角線元素
特殊矩陣：
矩陣的元素全部為0，稱為零矩陣，用 o 表示
對於方陣，如果只有對角線元素為1，其餘元素都為0，那麼稱為單位矩陣，一般用 i 或者 e 表示
對於方陣，不在對角線上的元素都為0，稱為對角矩陣
矩陣的加法
把矩陣的對應位元素相加
矩陣的形狀必須一致，即必須是同型矩陣
矩陣的乘法
1. 數與矩陣相乘
數值與矩陣每乙個元素相乘
2. 矩陣與矩陣相乘
左矩陣的每一行與右矩陣的每一列，對應每乙個元素相乘
a × b，那麼有 a 矩陣 m × n，b 矩陣 n × k，要求左側矩陣的列數 n，必須等於右側矩陣的行數 n，結果矩陣 c 為 m × k 矩陣。
矩陣的轉置
矩陣的運算法則
加法
a + b = b + a
( a + b ) + c = a + ( b + c )
減法
a - b = a + b × ( -1 )
a - a = a + ( -a ) = o
乘法
( λμ ) a = λ ( μa )
( λ + μ ) a = λa + μa
λ ( a + b ) = λa + λb
( ab ) c = a ( bc )
λ ( ab ) = ( λa ) b = a ( λb )
a ( b + c ) = ab + ac
( b + c ) a = ba + ca
轉置
( at )t = a
( a + b )t = at + bt
( λa )t = λat
( ab )t = bt at
矩陣的逆
對於 n 階方陣 a，如果有乙個 n 階方陣 b，使得 ab = ba = e， 就稱矩陣 a 是可逆的，並把 b 稱為 a 的逆矩陣
a 的逆矩陣記作 a-1，如果 ab = ba = e，則 b = a-1
什麼是導數，偏導數，方向導數和梯度，凸函式和凹函式
導數
導數反映的是函式 y = f(x) 在某一點處沿 x 軸正方向的變化率；
在x軸上某一點處，如果 f』(x)>0，說明f(x)的函式值在x點沿x軸正方向是趨於增加的；
如果 f』(x)<0，說明f(x)的函式值在x點沿x軸正方向是趨於減少的。
偏導數
方向導數
函式某一點在某一趨近方向（向量方向）上的導數值
方向導數就是函式在除座標軸正方向外，其他特定方向上的變化率
梯度（gradient）
問題：函式在變數空間的某一點處，沿著哪乙個方向有最大的變化率？
凸函式和凹函式
樣本均值
樣本方差
樣本標準差
均勻分布
正態分佈（高斯分布）
指數分布
條件概率公式
全概率公式
貝葉斯公式
機器學習基礎 機器學習基礎引入
機器學習 是人工智慧的核心研究領域之一，其最初的研究動機是為了讓計算機系統具有人的學習能力以便實現人工智慧。事實上，由於 經驗 在計算機系統中主要是以資料的形式存在的，因此機器學習需要設法對資料進行分析，這就使得它逐漸成為智慧型資料分析技術的創新源之一。機器學習是構建複雜系統的一種方法，也許依靠我們...
機器學習基礎學習筆記 機器學習基礎介紹
概念 多領域交叉學科，設計概率論 統計學 逼近論 凸分析 演算法複雜度理論等多門學科。專門研究計算機怎樣模擬或實現人類的學習行為，以獲取新的知識或技能，重新組織已有的知識結構使之不斷改善自身的效能。學科定位 人工智慧 artificial intelligence,ai 的核心，是是計算機具有智慧型...
機器學習 二 機器學習基礎
機器學習基礎概念 關於資料 監督學習 機器學習的基本任務，具體可以做什麼？結果是乙個連續數字的值，而非乙個類別 回歸任務可以劃分成分類任務。給機器的訓練資料擁有 標記 或者 答案 例如 1.影象已經擁有了標定資訊 2.銀行已經積累了一定的客戶資訊和他們信用卡的信用情況 3.醫院已經積累了一定的病人資...