1、代價函式是什麼？
理解的代價函式就是用於找到最優解的目的函式，這也是代價函式的作用。
2、代價函式作用原理
對於回歸問題，我們需要求出代價函式來求解最優解，常用的是平方誤差代價函式。
比如，對於下面的假設函式:
裡面有θ0和θ1兩個引數，引數的改變將會導致假設函式的變化，比如：
現實的例子中，資料會以很多點的形式給我們，我們想要解決回歸問題，就需要將這些點擬合成一條直線，找到最優的θ0和θ1來使這條直線更能代表所有資料。
而如何找到最優解呢，這就需要使用代價函式來求解了，以平方誤差代價函式為例。
從最簡單的單一引數來看，假設函式為：
平方誤差代價函式的主要思想就是將實際資料給出的值與我們擬合出的線的對應值做差，這樣就能求出我們擬合出的直線與實際的差距了。
為了使這個值不受個別極端資料影響而產生巨大波動，採用類似方差再取二分之一的方式來減小個別資料的影響。這樣，就產生了代價函式：
而最優解即為代價函式的最小值，根據以上公式多次計算可得到
代價函式的影象：
可以看到該代價函式的確有最小值，這裡恰好是橫座標為1的時候。
如果更多引數的話，就會更為複雜，兩個引數的時候就已經是三維影象了：
高度即為代價函式的值，可以看到它仍然有著最小值的，而到達更多的引數的時候就無法像這樣視覺化了，但是原理都是相似的。
因此，對於回歸問題，我們就可以歸結為得到代價函式的最小值：
3、為什麼代價函式是這個呢
首先思考：什麼是代價？
簡單理解代價就是**值和實際值之間的差距，那對於多個樣本來說，就是差距之和。
如果我們直接使用
所以為了解決有正有負的問題，我們使用
那麼是否使用平方之和就沒有什麼問題了？
仔細想想，其實很容易想到，代價函式應該與樣本的數量有關，否則乙個樣本和n個樣本的差距平方和之間的比較也沒有多少意義，所以將
代價函式 cost function
在監督學習的回歸問題中，代價函式就是用於找到最優解的目的函式，反應了 函式的準確性。代價函式的值越小，說明在回歸問題的中，電腦程式對資料擬合的越好。也就是假設函式越正確。比如，對於這個假設函式 可以看成是求房價的假設函式 代價函式是 也就是 值與真實值的差的平方和，再除以2m 2倍樣本數量 在假設函...
關於代價函式
代價函式 常用的有ssd sad和satd sad sum of absolute difference sae sum of absolute error 即絕對誤差和 satd sum of absolute transformed difference 即經hadamard變換後再絕對值求和 ...
理解代價函式
q 為什麼會提及關於代價函式的理解？a 在 ml 中線性回歸 邏輯回歸等總都是繞不開代價函式。理解代價函式 是什麼？作用原理？為什麼代價函式是這個？1 代價函式是什麼？代價函式就是用於找到最優解的目的函式，這也是代價函式的作用。損失函式 loss function 是定義在單個樣本上的，算的是乙個樣...