reference:
正如之前所述，梯度向量具有方向和大小。梯度下降法演算法用梯度乘以乙個稱為學習速率（有時也稱為步長）的標量，以確定下乙個點的位置。例如，如果梯度大小為 2.5，學習速率為 0.01，則梯度下降法演算法會選擇距離前乙個點 0.025 的位置作為下乙個點。
超引數
每個回歸問題都存在乙個goldilocks學習速率。goldilocks值與損失函式的平坦程度相關。如果你知道損失函式的梯度較小，則可以放心地試著採用更大的學習速率，以補償較小的梯度並獲得更大的步長。
學習筆記 降低損失
機器學習模式是以迭代的方式來降低損失，這種方法有點像 hot and cold 這種兒童遊戲，在遊戲中，隱藏的物品就是最佳模型，剛開始我們會胡亂猜測，比如w 0,然後系統告訴我們損失是多少，然後我們再重新猜測乙個值，看看損失是多少，通常我們會越來越接近目標。問題是我們如何盡可能高效的找到最佳的模型。...
機器學習 降低損失
迭代學習可能會讓您想到 hot and cold 這種尋找隱藏物品 如頂針 的兒童遊戲。在我們的遊戲中，隱藏的物品 就是最佳模型。剛開始，您會胡亂猜測 w1 的值為 0。等待系統告訴您損失是多少。然後，您再嘗試另一種猜測 w1 的值為 0.5。看看損失是多少。哎呀，這次更接近目標了。實際上，如果您以...
降低損失 迭代方法
迭代學習類似與 hot and cold 這類兒童遊戲 以下為機器學習演算法用於訓練模型的迭代試錯過程 整個機器學習過程中使用相同的迭代方法詳細說明各種複雜情況，尤其處於暴風雨中的藍雲區域 模型 部分將乙個或多個特徵作為輸入，然後返回乙個 y 作為輸出 y b w1x1對於線性回歸問題，事實證明初始...