乙個非常好的部落格：
關於牛頓法：
參考部落格中牛頓發的圖，在求函式的根的問題時，即f(x)=0，用函式的一階導數逼近即可。
相應的，在求極值問題時，即f`(x)=0，用函式的二階導數才可以逼近。也就是黑塞矩陣了。
求函式極值的問題在推導過程中，可以將函式表示式替換成函式的梯度來推導，這樣就跟求根的推導一樣了。
雅克比矩陣對應的函式：輸入為乙個向量，輸出也為乙個向量，所有輸入與所有輸出的一階導數構成乙個矩陣。
雅克比矩陣用於求解方程組的解（多個輸入，多個輸出）
黑塞矩陣對應的函式：輸入為乙個向量，輸出為乙個值，這個值關於輸入向量中兩兩組合的二階導數構成乙個矩陣。
更詳細的乙個推導：
雅克比矩陣
在向量微積分中，雅可比 矩陣是一階 偏導數以一定方式排列成的矩陣，其行列式稱為雅可比行列式。雅可比矩陣的重要性在於它體現了乙個可微 方程與給出點的最優線性逼近。因此，雅可比矩陣類似於多元函式的導數。在向量微積分中，雅可比矩陣是一階偏導數以一定方式排列成的矩陣，其行列式稱為雅可比行列式。還有，在代數幾...
雅克比矩陣
0 前言 在學習當中，我們應該都或多或少的明白了乙個道理，就是實際問題大部分是非線性的，而我們往往先分析線性問題，再往非線性推廣。這其中有乙個很重要的問題就是在某一點進行線性近似。對於一階函式，我們常用的是泰勒公式展開，而對於多元函式或者是向量，我們常用的是雅克比矩陣。這個雅克比矩陣自己曾多次遇到，...
黑塞矩陣 Hessian Matrix
分享一下我老師大神的人工智慧教程！零基礎，通俗易懂！在機器學習課程裡提到了這個矩陣，那麼這個矩陣是從 來，又是用來作什麼用呢?先來看一下定義 黑塞矩陣 hessian matrix 又譯作海森矩陣 海瑟矩陣 海塞矩陣等，是乙個多元函式的二階偏導數構成的方陣，描述了函式的區域性曲率。黑塞矩陣最早於19...