在分析模型的泛化效能時，經常用到偏差和方差。泛化誤差可以分解為偏差，方差與雜訊之和。
自己的理解：
偏差：在某演算法下期望的**值與真實的標記（客觀存在的標記，而不是資料庫人工的標記）度量了學習演算法的期望**與真實結果的偏離程度，刻畫了學習演算法本身的擬合能力，偏差的主要來之演算法本身的擬合能力和資料庫的標註誤差（最主要來至於演算法本身）；
方差：使用相同的樣本不同的訓練資料集得到的模型的**值與期望值的差的期望，度量了同樣大小的訓練集的變動所導致的學習效能的變化，即刻畫了資料擾動所造成的影響，表示訓練資料的規模導致的**值與期望值之間誤差（理論上資料集無窮大時，模型在該訓練資料集的**值期望值相同，在資料集規模有限時，就會有模型的**值與期望值存在誤差，這個誤差的期望反應了資料規模對泛化效能的影響）。
參考 1.
2. 《機器學習》周志華
偏差（bias 和方差 variance 區別
偏差 bias 和方差 variance 區別 偏差指的是演算法的期望 與真實 之間的偏差程度，反應了模型本身的 擬合能力 方差度量了同等大小的訓練集的變動導致學習效能的變化，刻畫了資料擾動 所導致的影響。當模型越複雜時，擬合的程度就越高，模型的訓練偏差就越小。但此時如果 換一組資料可能模型的變化就...
診斷偏差（bias）和方差（variance）
以下兩個圖是比較熟悉的高偏差 high bias 與高方差 high variance 的圖 接下來畫 誤差 error 圖 訓練誤差 left theta right frac sum limits m left right right 2 交叉驗證誤差 多項式的度 補充概念 定義如下 begin...
模型評估 偏差bias和方差variance
1 定義 觀測值 y 特徵值 x 且，假設 用偏差和方差來表述 則，最後一項為系統雜訊，是無法通過模型降低的。1.1 偏差bias與方差variance，他們的基本定義如下 偏差bias 描述 模型的期望與理論模型之間的差距，偏差越大偏離理論值越大。b ias f x e f x f x 公式3 方...