標量（scalars）
向量（vector）
矩陣（matrix）
矩陣和向量乘法
hadamard積
a(b + c) = ab + ac 2.6
a(bc) = (ab)c 2.7
單位矩陣
單位矩陣和矩陣的逆
線性依賴和空間（span）
解決公式2.11是否有解的問題。
乙個有線性依賴的方陣叫奇異矩陣。
範數（norms）
p=2時叫歐幾里得範數 ||x||
p=1時也很重要
p=max時也很重要
弗羅貝尼烏斯範數
特殊的矩陣和向量
對角線矩陣 d
對稱矩陣 a
單位向量 ||x||= 1 2.36
正交矩陣 q
正交矩陣表示一
正交矩陣表示二
特徵分解
奇異值分解（svd）
u和v都是正交矩陣，d是對角線矩陣，d可以不是方陣
廣義逆矩陣（moore-penrose）
udv是a的奇異值分解 d+是d的倒置矩陣且對角線值為倒數的矩陣
它可以計算最小歐幾里得範數的解；
如果a的行比列多，那麼可能無解，它計算的是最接近歐幾里得範數的x值；
tr操作符
行列式（determinant）
應用例項：pca 主要元素分析（比如葡萄酒的例子）
深度學習第二章 線性代數筆記
本章主要介紹與深度學習相關的線性代數知識。與特徵分解類似，奇異值分解 singular value decomposition，svd 將矩陣分解成奇異向量 singular vector 和奇異值 singular value 將 a 分解為三個矩陣的乘積 a udvt 假設a 為 m n 那麼 ...
深度學習讀書筆記 第二章 線性代數
標量 scalar,是乙個單獨的數 向量 vector,是一列有序的數.方括號包圍的縱列，每個元素有乙個索引。矩陣 matrix,二維陣列，每個元素由兩個索引組成。aij處於i行j列。張量 tensor,超過二維的陣列。標量和矩陣的運算 向量和矩陣的運算 將向量隱式的複製到很多位置的方式成為廣播 b...
線性代數及其應用第二章
矩陣乘法的計算 行列法則 數值計算註解 1.計算機求出ab最快的方法依賴矩陣的儲存方式，lapack中是按列計算ab,c 中是按行計算。2.ab的定義使得在計算機上可以用並行演算法，b的列可分配給不同的處理器處理 1.引入矩陣求逆的演算法 2.矩陣可逆的判斷方法 此時並沒有引入行列式這一工具來判斷可...