學習曲線
讓我們根據模型通過視覺化圖形從資料中學習的能力來**偏差與方差之間的關係。
機器學習中的學習曲線是一種視覺化圖形，能根據一系列訓練例項中的訓練和測試資料比較模型的指標效能。
在檢視資料與誤差之間的關係時，我們通常會看到，隨著訓練點數量的增加，誤差會趨於下降。由於我們嘗試構建從經驗中學習的模型，因此這很有意義。
我們將訓練集和測試集分隔開，以便更好地了解能否將模型泛化到未見過的資料而不是擬合到剛見過的資料。
在學習曲線中，當訓練曲線和測試曲線均達到穩定階段，並且兩者之間的差距不再變化時，則可以確認模型已盡其所能地了解資料。
學習曲線 偏差
在訓練誤差和測試誤差收斂並且相當高時，這實質上表示模型具有偏差。無論我們向其提供多少資料，模型都無法表示基本關係，因而出現系統性的高誤差。 方差
如果訓練誤差與測試誤差之間的差距很大，這實質上表示模型具有高方差。與偏差模型不同的是，如果有更多可供學習的資料，或者能簡化表示資料的最重要特徵的模型，則通常可以改進具有方差的模型。
理想的學習曲線
模型的最終目標是，誤差小並能很好地泛化到未見過的資料（測試資料）。如果測試曲線和訓練曲線均收斂，並且誤差極低，就能看到這種模型。這種模型能根據未見過的資料非常準確地進行**。
模型複雜度
與學習曲線圖形不同，模型複雜度圖形呈現的是模型複雜度如何改變訓練曲線和測試曲線，而不是用以訓練模型的資料點的數量。一般趨勢是，隨著模型增大，模型對固定的一組資料表現出更高的變化性。
學習曲線與模型複雜度
那麼，學習曲線與模型複雜度之間有何關係？
如果我們獲取具有同一組固定資料的相同機器學習演算法的學習曲線，但為越來越高的模型複雜度建立幾個圖形，則所有學習曲線圖形均代表模型複雜度圖形。這就是說，如果我們獲取了每個模型複雜度的最終測試誤差和訓練誤差，並依據模型複雜度將它們視覺化，則我們能夠看到隨著模型的增大模型的表現有多好。
模型複雜度的實際使用
既然知道了能通過分析模型複雜度圖形來識別偏差和方差的問題，現在可利用乙個視覺化工具來幫助找出優化模型的方法。在下一部分中，我們會** gridsearch 和如何微調模型以獲得更好的效能。
對機器學習中學習曲線的理解
學習曲線是一條關於樣本個數和經驗損失函式之間的曲線，對機器學習中的過程進行判斷，進一步調整學習引數，提高假設模型的泛化能力。在上面的圖中，藍線表示經驗損失函式隨著訓練樣本的增多而變大，相反綠線呈現出反向的關係。綠線是交叉驗證樣本，計算交叉驗證的樣本損失函式使用到的權值引數是由訓練樣本得到的，與該權值...
機器學習 學習曲線
檢視模型的學習效果 通過學習曲線可以清晰的看出模型對資料的過擬合和欠擬合 len x train 個訓練樣本，訓練出 len x train 個模型，第一次使用乙個樣本訓練出第乙個模型，第二次使用兩個樣本訓練出第二個模型，第 len x train 次使用 len x train 個樣本訓練出最後乙...
機器學習筆記5 學習曲線
sklearn中的學習曲線函式可以幫到我們。它可以讓我們通過資料點來了解模型表現的好壞。可以先引入這個模組 from sklearn.learning curve import learning curve sklearn 0.17 from sklearn.model selection impo...