07 點積與對偶性
點積：兩個維數相同的向量或是兩個長度相同的陣列，求它們的點積就是將相應座標配對，求出每一對座標的乘積，然後將結果相加。
幾何解釋：要求兩個向量v和w的點積，想象將向量w朝著過原點和向量v終點的直線上投影，將投影的長度與向量v的長度相乘，你就得到了它們的點積：v點乘w。
除非兩者方向相反，則點積為負值。兩者垂直時，則為零。
為什麼點積與順序無關呢？
如果v和w的長度恰好相同，我們可以利用其中的對稱性，兩種投影互為映象，若將其中乙個縮放若干倍，對稱性被破壞，但是被投影的向量長度保持不變。
為什麼點積的運算過程（對應座標相乘並將結果相加）和投影有所聯絡呢？
最令人滿意的答案來自於對偶性。先來談談多維空間到一維空間（數軸）的線性變換， 從二維到一維的線性變換，可以讓等距分布的點保持等距分布。
1x2矩陣與向量相乘這一數值運算過程，感覺上就和兩個向量的點積一樣。1x2矩陣不正像乙個傾倒的向量嗎？
實際上，我們現在可以說，1x2矩陣與二維向量之間有著微妙的聯絡，這種關係在於：將向量放倒，從而得到與之相關的矩陣，或者將矩陣立直，從而得到與之相關的向量。這只是從數值的角度看，貌似毫無意義。
將向量轉化為數的線性變換和這個向量本身有著某種關係，舉個例子，並且回答了前面點積的問題。
乙個二維空間的向量u帽，恰好落在一條過原點的斜著的數軸上。
所以描述投影變換的1x2矩陣的兩列，就分別是u帽的兩個座標，而空間中任意向量經過投影變換的結果，也就是投影矩陣與這個向量相乘，和這個向量與u帽的點積在計算上完全相同。
這就是為什麼與單位向量的點積可以解讀為，將向量投影到單位向量所在的直線上所得到的的投影長度。
而向量與給定非單位向量的點積可以解讀為，首先朝給定向量上投影，然後將投影的值與給定向量的長度相乘。
注意一下這個過程，我們有乙個從二維空間到數軸的線性變換，它並不是由向量數值或點積運算定義得到的，而只是通過將空間投影到給定數軸上來定義。但是因為這個變換是線性的，所以它必然可以用某個1x2矩陣描述，又因為1x2矩陣與二維向量相乘的計算過程，和轉置矩陣並求點積的計算過程相同，所以這個投影變換必然會與某個二維向量相關。
這裡給你的啟發是，你在任何時候看到乙個線性變換，它的輸出空間是一維數軸，無論它是如何定義的，空間中會存在唯一的向量v與之相關，就這一意義而言，應用變換和與向量v做點積是一樣的。
這是數學中對偶性的乙個例項。你可以說乙個向量的對偶是由它定義的線性變換，乙個多維空間到一維空間的線性變換的對偶是多維空間中的某個特定向量。
總結一下，表面上看，點積是理解投影集合的有利幾何工具，並且方便檢驗兩個向量的指向是否相同。這大概也是你需要記住的點積中最重要的部分。
更進一步講，兩個向量點乘，就是將其中乙個向量轉化為線性變換，同樣，在數值上強調它可能顯得沒有意義，因為只是看上去恰好相似的計算過程而已，但是個人覺得這一過程非常重要，因為從始至終你都在和向量打交道，一旦真正了解向量的「個性」，有時你就會意識到，不把它看作空間中的箭頭，而把它看作線性變換的物質載體，會更容易理解向量。向量就彷彿是乙個特點變換的概念性記號，因為對我們來說，想象空間中的向量比想象整個空間移動到數軸上更加容易。
線性代數的本質 學習筆記
00 序言 線性代數的數值運算 幫助你順利應用這些工具。幾何直觀 幫助你判斷出解決特定問題需要什麼樣的工具，感受到它們有為什麼有用，以及如何解讀最終結果。01 向量究竟是什麼？看待向量的三種觀點 物理專業學生視角 向量是空間的乙個箭頭，由長度和方向決定。計算機專業學生視角 向量是有序的數字列表，2維...
線性代數 線性代數的本質
線性代數在機器學習的領域中扮演者十分重要的角色，所以這裡岔開先整理一些線性代數的基本概念和計算方法。這裡是3blue1brown的線性代數課程的截圖和筆記。作為快速複習的網路筆記。本課程的特點 通過影象展現線性代數計算在幾何圖形上意義。這樣能更好的理解線性代數為什麼叫做線性代數。線性代數為什麼採用這...
線性代數的本質
比如說，在全國一般工科院系教學中應用最廣泛的同濟線性代數教材 現在到了第四版 一上來就介紹逆序數這個古怪概念，然後用逆序數給出行列式的乙個 極不直觀的定義，接著是一些簡直犯傻的行列式性質和習題 把這行乘乙個係數加到另一行上，再把那一列減過來，折騰得那叫乙個熱鬧，可就是壓根看不出 這個東西有嘛用。人開...