梯度下降演算法在機器學習與神經網路中有廣泛的應用，主要用來求最優引數，下面我們通過乙個最簡單的例子來演示梯度下降演算法過程
舉例：y = x ^ 2 ，通過梯度下降演算法求y取最小值（極小值）時候的最優解x
求解過程主要通過迭代完成
迭代的方程為：
x = x - y'(x) * αα為學習率（或稱步長，是乙個重要的引數，α的選擇直接影響這著演算法的效率）
1.首先任取一點，我們取x = 3，計算其導數y'(x) = 6
2.我們設定學習率為α = 0.4
3.開始演算法的迭代：
（1）x = 3，y'(x) = 6，x = x - y'(x) * α = 0.6
（2）x = 0.6，y'(x) = 1.2，x = x - y'(x) * α = 0.12
（3）x = 0.12，y'(x) = 0.24，x = x - y'(x) * α = 0.024
（4）x = 0.024，y'(x) = 0.048，x = x - y'(x) * α = 0.0048
4.當梯度（導數）下降到很小或為0時，則求得的解x趨向最優解，比如本例中迭代到第四步時y'(x) = 0.048已經非常小了，x = 0.0048基本趨向於本例的真正解x = 0
高中生搞軟體開發
乙個爛專業會折磨你一輩子 我是 中國大學十大最爛專業 那篇文章的作者，對於專業我想說幾句。乙個很爛的專業就像乙個魔鬼一樣折磨你一輩子，我所在 的學校就是乙個冷門專業，我深知專業好壞的差別程度。乙個同學的專業是林業大學的造紙專業，他在高考的時候離哈爾濱工業大學差了3分，大學裡面他早早地就過掉了六級，經...
高中生如何攻克SAT詞彙難關
隨著中國小齡化出國的趨勢，越來越多的高中同學要面臨除了托福考試之外的又一重要考試 sat,sat作為美國大學入學的標準化考試，考查的是學生的學術能力水平，也就是英文不再是它所考查的重點，這一點跟我們熟悉的托福是有著本質區別的。它所強調的是鍛鍊培養同學們的邏輯思維，換句話說叫批判性思維，這跟你們以後要...
高中生的你處在怎樣的狀態？
高中生是乙個跨度很大的人群，如果我們按照所在高中的層次來進行劃分，可以分成很多層次。但如果按照所處的狀態進行劃分，只有兩類，一類是知道自己要幹什麼，一類是不知道自己要幹什麼的。只不過前一類大多數都在當地最好的高中裡罷了。大多數的高中生，其實還處在隨波逐流的狀態，跟著大部隊按部就班的上學，上課外班，考...