行列式（determination）：
行列式是只針對方陣而言的。
關於行列式，2階、3階行列式的求解：
對於三階行列式的求解：
可以在旁邊多加乙個同樣的以方便看圖。
行列式有常見的性質：
1）行列式與其轉置行列式相等。
2）對換行列式的兩行或者兩列，行列式變號。如果行列式某兩行、兩列相同，行列式為0。
3）把行列式的某一行、一列同乘乙個數加到另外一行或者一列，行列式不變。
由2）、3）得知：行列式中，如果一行、一列是另一行、一列的倍數，則該行列式為0.
上述性質與線性方程組的解息息相關。
根據克拉默法則，如果乙個線性方程組的係數行列式不等於0，則線性方程組有唯一解。（係數矩陣必須是nxn的方陣，才有行列式，所以over-determined的線性回歸不屬於這種型別）。
注意上述定理只對係數矩陣做要求，自變數向量的階數並沒有規定。可以有x^2,x^3等。
關於齊次線性方程組和非齊次線性方程組的定義：
所以有：
關於求逆矩陣（inverse matrix）：
對於線性方程組的求解，可以使用逆矩陣的方法，關於逆矩陣的定義和性質如下：
而對於伴隨矩陣a*的求法如下：
而關於奇異矩陣和非奇異矩陣的定義如下：
矩陣的秩的定義（rank）：
這裡我們給矩陣的秩乙個非正式的定義：
如果經過了gaussian elimination之後的矩陣的非零行數就是矩陣的秩（其實最原始的回答應該是，階梯矩陣的非零行數）。那什麼是階梯矩陣呢？
例子如下：
那麼，矩陣的秩和線性方程以及行列式有什麼關係呢？
顯而易見，如果乙個矩陣是乙個滿秩方陣，就是說gaussian elimination之後的矩陣的非零行個數和未知數相同，方程有唯一解。那麼次係數方陣的det就不等於0. 係數方陣也是可逆方陣。是個非奇異方陣。注意，行列式、逆矩陣、非奇異矩陣等都是針對方陣而言的。但秩的話是矩陣都可以求的。
方陣的特徵值和特徵向量（eigen value和eigen vector）
對應著，我們可得特徵多項式：
觀察可知，這個特徵多項式是乙個齊次線性方程組。想要有非零解，也就是非零特徵向量，需要行列式等於0才可以。根據這一性質，可以幫助我們求得行列式：
下面是對應的例題：
線性代數基礎
向量是由n個數組成的n行1列或1行n列的有序陣列 向量點乘 內積，數量積 運算結果是乙個標量，可以計算兩個向量間的夾角以及a向量在b向量方向上的投影，點積的意義是測量兩個向量同向的程度。向量叉乘 外積，向量積 運算結果是乙個向量，並與這兩個向量組成的平面垂直 向量的線性組合 先數乘後疊加 a1v1 ...
線性代數基礎
兩兩正交且模為1 a cdot b left a right left b right cos left a right 設向量b的模為1，則a與b的內積值等於a向b所在直線投影的向量長度。要準確描述向量，首先要確定一組基，然後給出在基所在的各個直線上的投影值，就可以了。a times b left...
數學基礎 線性代數
1 矩陣正定性的判斷，hessian 矩陣正定性在梯度下降中的應用 若矩陣所有特徵值均不小於0，則判定為半正定，若矩陣所有特徵值均大於0，則判定為正定，在判斷優化演算法的可行性時hessian 矩陣的正定性起了很大的作用，若hessian 正定，則函式的二階偏導恆大於0，函式的變化率處於遞增狀態，在...