偏差：就是**值的期望離所有被**的樣本的真實值的``距離的期望。 刻畫了學習演算法本身的擬合能力。
方差：就是**值的期望離所有被**的樣本的**值的「距離的期望。刻畫了資料擾動所造成的影響。
**值的期望就好像測試集所有點的中心。注意
當我們確定乙個模型時，可以通過比較偏差，方差情況看看，我們是最大我們的訓練長度還是減小我們的訓練程度。
在特徵一定的情況下，我們是先用訓練集，通過最小化訓練誤差，以此來擬合出乙個模型，再用測試集（假如有n個測試樣本）去測試該模型，得到n個測試數值，再求出他的測試誤差，用該測試誤差來評價該模型的好壞
最小訓練誤差，用來對特定模型擬合出該模型的引數
通過對比不同的模型的測試誤差，選出最小的測試誤差對應的模型就是我們需要的模型。
所以 找到最小測試誤差，用來選定模型的。
（因為同乙個問題，有不同演算法n個，同乙個演算法又有不同引數m個，不同的引數就對應著不同的模型（網格搜尋演算法）。用最小訓練誤差，對各個不同的模型算出其引數，再對各個不同的模型算出其對應的訓練誤差，通過比較m*n個訓練誤差得到訓練誤差最小的模型）
何為誤差
機器學習中的bias(偏差)，error(誤差)，和variance(方差)有什麼區別和聯絡？
偏差和方差有什麼區別？
關於訓練誤差 測試誤差 泛化誤差
我們在學習模式識別的時候，總是會遇到一些專業詞彙，而其中有的專業詞彙叫人傻傻分不清。今天我就來說說訓練誤差 測試誤差 泛化誤差到底是什麼，區別所在。對於分類學習演算法，我們一般將樣本集分為訓練集和測試集，其中訓練集用於演算法模型的學習或訓練，而測試集通常用於評估訓練好的模型對於資料的 效能評估。而這...
PAC理論 訓練誤差和測試誤差 模型複雜度
pac理論 訓練誤差和測試 泛化 誤差的區別及其與模型複雜度的關係 1.泛化能力 機器學習的目標是使學得的模型能夠很好的適用於新的樣本，而不是僅僅在訓練樣本上工作的很好。學得的模型對新樣本 即新鮮資料 的適應能力稱為泛化能力。2.誤差 學習到的模型在樣本上的 結果與樣本的真實結果之間的差 訓練誤差 ...
機器學習 西瓜書 二 偏差 方差分解 泛化誤差
2.5偏差與方差 偏差 方差分解是解釋演算法泛化效能的一種重要工具。偏差 方差分解試圖對學習演算法的期望泛化錯誤率進行拆解。泛化誤差可分解為 偏差，方差與雜訊之和。偏差度量了學習演算法的期望 與真實結果的偏離程度，即刻畫了學習演算法本身的擬合能力 方差度量了同樣大小的訓練集的變動所導致的學習效能的變...