上面三個圖的函式依次為 f1(x) , f2(x) , f3(x) 。我們是想用這三個函式分別來擬合price,price的真實值記為 y。
我們給定x,這三個函式都會輸出乙個f(x),這個輸出的f(x)與真實值y可能是相同的,也可能是不同的,為了表示我們擬合的好壞,我們就用乙個函式來度量擬合的程度。這個函式就稱為損失函式(loss function),或者叫代價函式(cost function)。
損失函式越小,就代表模型擬合的越好。那是不是我們的目標就只是讓loss function越小越好呢?還不是。這個時候還有乙個概念叫風險函式(risk function)。風險函式是損失函式的期望,這是由於我們輸入輸出的(x,y)遵循乙個聯合分布,但是這個聯合分布是未知的,所以無法計算。但是我們是有歷史資料的,就是我們的訓練集,f
損失函式 代價函式 目標函式的區別
來自 損失函式,代價函式,目標函式區別 損失函式 定義在單個樣本上,乙個樣本的誤差。代價函式 定義在整個訓練集上,所有樣本的誤差,也就是損失函式的平均。目標函式 最終優化的函式。等於經驗風險 結構風險 cost function 正則化項 目標函式和代價函式的區別還有一種通俗的區別 目標函式最大化或...
損失函式,代價函式,目標函式
首先給出結論 損失函式和代價函式是同乙個東西,目標函式是乙個與他們相關但更廣的概念,對於目標函式來說在有約束條件下的最小化就是損失函式 loss function 上面三個圖的函式依次為 我們給定度量擬合的程度,比如 越小,就代表模型擬合的越好。那是不是我們的目標就只是讓loss function越...
損失函式 代價函式與目標函式
損失函式 loss function 是定義在單個樣本上的,用來評價模型的 值和真實值不一樣的程度,指乙個樣本的誤差。代價函式 cost function 定義在整個訓練集上的,是指所有樣本誤差的平均,也就是所有損失函式值的平均。目標函式 object function 指最終需要優化的函式,一般來...