一元函式的導數
導數的幾何意義是很明確的，乙個函式上某點的導數可以表示為該點在函式曲線上的切線斜率。或者從極限的角度來看，導數表示該點在函式上的變化率：
f ′(
x0)=
limδ
x→0f
(x0+
δx)−
f(x0
)δ
xf'(x_) = \mathop \limits_ \frac+\delta x) - f(x_)}
f′(x0
)=δx
→0lim
δxf
(x0
+δx)
−f(x
0)
即對於函式上的某一點，當該點的變化趨於0時，函式值的變化與自變數變化的比值代表了導數。
多元函式的偏導
對於多元函式，我們所說的偏導數指的就是多元函式沿著座標軸方向的變化率。例如對於二元函式z=f
(x,y
)z = f(x, y)
z=f(x,
y)來說，fx(
x,y)
f_(x, y)
fx(x,
y)指的是函式在y
yy方向不變，函式沿著x
xx方向的變化率。
對於空間中的一點(x0
,y0)
(x_, y_)
(x0,y
0)處的偏導數的幾何意義是：fx(
x0,y
0)
f_(x_, y_)
fx(x0
,y0
)表示曲面函式z=f
(x,y
)z = f(x, y)
z=f(x,
y)被平行於xoz
xozxo
z平面的y=y
0y = y_
y=y0
平面所截得的曲線，在點(x0
,y0)
(x_, y_)
(x0,y
0)處沿著x
xx軸方向的斜率。
多元函式的梯度
由於偏導數只能表示多元函式沿著座標軸的變化率，但是在實際很多情況中，我們需要得到多元函式沿著任意方向的變化率，所以就引入了方向導數。因此，方向導數的作用就是用於計算多元函式任意方向的變化率。
在多維空間中，梯度是乙個向量，表示某個函式在該點處的方向導數沿著該方向取得最大值，也即是，函式沿著梯度方向的變化速度是最快的。
因此，梯度的方向是方向導數中取到最大值的方向，梯度的值是方向導數的最大值。
對於多元函式而言，每個變數只要沿著這個變數的偏導的方向變化，函式的整體變化就可以達到最大，因此多元函式的梯度可以表示為：gra
df(x
0,y0
,z0)
=(fx
(x0,
y0,z
0),f
y(x0
,y0,
z0),
fz(x
0,y0
,z0)
)grad \ f(x_, y_, z_) = (f_(x_, y_, z_), f_(x_, y_, z_), f_(x_, y_, z_))
gradf(
x0,
y0,
z0)
=(fx
(x0
,y0
,z0
),f
y(x
0,y
0,z
0),
fz(
x0,
y0,
z0)
)參考資料
如何直觀形象的理解方向導數與梯度以及它們之間的關係？ - 憶臻的回答 - 知乎
多元函式的偏導數、方向導數、梯度以及微分之間的關係思考
機器學習（三）多元線性回歸以及多元梯度下降法
機器學習 三 多元線性回歸以及多元梯度下降法 前言 一般的假設函式都與多個特徵相關，比如我們在機器學習 一 中提到的房子 只是與面積有關。但實際房子 和多種特徵要素有關，比如與房子的大小，房子的臥室個數，房子的樓層數，房齡等等，因此本篇部落格將在一元線性回歸演算法之上理解多元線性回歸演算法，其實他們...
吳恩達機器學習004多元梯度下降
標籤 演算法 機器學習 目錄特徵和多項式回歸 正規方程 我們引入更加多的特徵來對房價進行進一步評估，同時也新增一些符號來幫助表示引數。n用來表示特徵 feature 量，x i 這是表示的就不是乙個值了，而是一組向量 同時用xj i 來表示向量裡的具體哪乙個引數 有了多個特徵之後假設函式就應該將所有...
利用Matla繪製多元函式的梯度
利用matla繪製多元函式的梯度 梯度的本意是乙個向量 向量 表示某一函式在該點處的方向導數沿著該方向取得最大值，即函式在該點處沿著該方向 此梯度的方向 變化最快，變化率最大 為該梯度的模 下面在matlab裡繪製空間曲面，曲面的等高線圖，以及各曲面上各個網格點的梯度 向量 首先，基於matlab，...