「linear algebra review(optional)——matrix-matrix multiplication」
筆記1.1 引入
前面講過梯度下降用於線性回歸模型的引數確定，如果有矩陣的乘法的加持，我們就可以不用梯度下降法也能求解這個問題。
先來看乙個例子，求下面圖中兩個矩陣的乘。
類似的，把右邊矩陣的第二列抽出來相乘又得到乙個2×1的列向量，然後把這兩步得到的列向量拼在一起就得到兩個矩陣的乘的結果了。
1.2 一般情況
那上面那個特例中，左邊是2×3的矩陣、右邊是3×2的矩陣。右邊這個矩陣的行數、列數分別和左邊矩陣的列數、行數相等，是不是說一般情況也有這種要求呢？我們一起看一下。
對於一般的情況，矩陣和矩陣的乘法的形式如下圖：
從上面的圖中可知，矩陣a×b，只要求a的列數要等於b的行數，而不一定要求a的行數等於b的列數；得到的結果矩陣c呢，c的行數和a的行數相等、c的列數和b的列數相等。
從前面的示例我們可知，矩陣a和矩陣b的乘，可以簡化為矩陣a和矩陣b的列向量的乘，然後再把結果拼成c。就完成了矩陣與矩陣的乘法。
矩陣和矩陣相乘，化簡為矩陣和列向量相乘的過程中，右邊的矩陣a會被用o次(即矩陣b的列數)、而矩陣b呢是被拆分成o個列向量來用的。想想這個事挺有意思的。
1.3 再來乙個例子
兩個2×2的矩陣相乘，運算過程如下圖：
1.4 繼續賣房子
我們來看一下，矩陣和矩陣的乘法這種運算規則的制定怎樣讓我們實際問題更容易被表述。
還是假設我有四套房子，面積(單位是平方英呎)不同，如下圖：
這裡呢，面積和售價之間關係的**函式不再是乙個了，假設我們有3個可能的公式用來計算房屋的售價，如果有矩陣乘法，就可以很方便的把這個事情給描述出來。
我們把第乙個模型的引數拿出來構成矩陣b的第一列、第二個模型的引數做第二列、第三個模型的引數做第三列，就得到下圖這樣的乙個矩陣乘法的式子。
對上面的這個式子進行運算，就可以得到乙個4×3的結果矩陣。而結果矩陣的每一列就對應於相應模型對4套不**子的售價的**。如下圖：
一次矩陣運算就可以讓我們完成三個模型分別對4套房子的售價**，即12次房屋售價**的運算用乙個矩陣乘法的式子就可以表示了，想想就讓人激動。
更好的是，幾乎每一種主流的程式語言都有很好的線性代數庫實現矩陣與矩陣的乘法；更進一步的，如果我們想比較不同模型的好壞的話，我們只需要比較結果矩陣就行了。
我們小時候學乘法的時候知道有很多的運算法則可以使用，那麼，矩陣和矩陣的乘法有沒有這樣的一些法則供我們使用呢？且聽下回。
02—
吳恩達機器學習筆記
為了解決實際生活中的問題，我們通常需要乙個數學模型。比如，小明有乙個房子 他想賣掉房子 為了知道房子的 小明收集了該地區近兩年的房屋交易 他發現房屋 與房屋大小呈正相關，所以他畫了了一幅圖 小明的房屋大小用紅色的 代替。可見和小明房屋一樣大小的房子並不存在，而類似的房屋 又有很大差別，如此小明決定用...
吳恩達機器學習筆記
sigmoid啟用函式 0，1 x 0,y 0.5 tanh啟用函式 1，1 x 0,y 0 relu啟用函式 x 0,y 0 x 0,y x sigmoid啟用函式 除了輸出層是乙個二分類問題基本不會用它。tanh啟用函式 tanh是非常優秀的，幾乎適合所有場合。relu啟用函式 最常用的預設函式...
吳恩達機器學習筆記（1）
1 用來進行資料探勘 2 讓機器進行自我學習 3 能對使用者進行個性化定製的應用程式 4 了解人類大腦的執行機制 arthor samuel的定義 是在沒有對機器進行明確的程式設計的情況下讓機器具有自主學習的能力。學習演算法主要分為兩大類，監督學習演算法和非監督學習演算法。監督學習演算法就是明確告訴...