發現wikipedia上用來說明梯度的特別典型,說明非常形象,所以引來供大家學習。
設函式 f(x
,y)=
−(co
s2x+
cos2
y)2f(x, y) = -(cos2x + cos 2 y )^2
f(x,y)
=−(c
os2x
+cos
2y)2
,則 ∇
f\nabla f
∇f可以描述為在底部平面上的向量投影,如下圖所示。
根據所示,每個點的梯度是乙個向量,其長度代表了這點的變化速度,而方向表示了其變化速率最快的方向。所以通過這張圖,我們可以很清楚地看到。在向量長的地方,f
ff 的變化就明顯,而其方向代表了增長最快的方向。
結合方向導數,我們可以很容易理解梯度其實就是指明函式在指定點的變數率最快的方向和大小。
梯度下降演算法理解(梯度的含義)
梯度 梯度的本意是乙個向量 向量 表示某一函式在該點處的方向導數沿著該方向取得最大值,即函式在該點處沿著該方向 此梯度的方向 變化最快,變化率最大 為該梯度的模 參考這個部落格 1 梯度下降 gradient descent 3 梯度下降法的基本思想可以模擬為乙個下山的過程。假設這樣乙個場景 乙個人...
特徵向量的幾何含義
長時間以來一直不了解矩陣的特徵值和特徵向量到底有何意義 估計很多兄弟有同樣感受 知道它的數學公式,但卻找不出它的幾何含義,教科書裡沒有真正地把這一概念從各種角度例項化地進行講解,只是一天到晚地列公式玩理論 有個屁用啊。根據特徵向量數學公式定義,矩陣乘以乙個向量的結果仍是同維數的乙個向量,因此,矩陣乘...
特徵向量的幾何含義
來自 長時間以來一直不了解矩陣的特徵值和特徵向量到底有何意義 估計很多兄弟有同樣感受 知道它的數學公式,但卻找不出它的幾何含義,教科書裡沒有真正地把這一概念從各種角度例項化地進行講解,只是一天到晚地列公式玩理論 有個屁用啊。根據特徵向量數學公式定義,矩陣乘以乙個向量的結果仍是同維數的乙個向量,因此,...