首先，svm有個l2正則項，在目標函式中加入這個對模型的規模進行了限制。l2正則為什麼能保證控制過擬合，這裡面就有個哲學思想，叫做奧卡姆剃刀法則，簡單來說這個想法就是「能簡單說的話，不要複雜的說」。l2正則項就能代表模型的複雜度，根據奧卡姆，如果同樣效果那麼越簡單的模型泛化效果越好。所以最優化過程中盡量追求小的l2的值就會提高泛化能力，也就抑制了過擬合的問題。其次，
會通過鬆弛變數的方法處理掉噪音。
一是弱分類器非常簡單，即使很多融合也不易過擬合，但如果弱分類器太強，則易過擬合；二是分類錯誤率上界隨著訓練增加而穩定下降
兩個隨機過程（訓練集和特徵）的引入；以及根據大數定律，隨著分類樹數目的增多，泛華誤差值會收斂，所以使得隨機森林不易過擬合。
活的不容易
t2 活的不容易 時間限制 1000ms 問題描述 你活的不容易，我活的不容易，他活的也不容易。不過，如果你看了下面的故事，就會知道，有位老漢比你還不容易。重慶市郊黃泥板村的徐老漢 大號徐東海，簡稱xdh 這兩年辛辛苦苦養了不少羊，到了今年夏天，由於眾所周知的高溫乾旱，實在沒辦法解決牲畜的飲水問題，...
漂的不容易
從16年7月畢業到北京，到目前已經快一年了，從什麼都不會的乙個小菜鳥，到能寫指令碼寫點小的python專案。感謝我的領導還有帶我的肖哥，最近發生的事情有點多公司內部調整，領導換了，到了新的組裡，一切都是那麼的模生，也不知道我的python能寫多久，可以繼續寫下去嗎？預感公司估計有一波離職潮，也許身邊...
回歸分析中產生過擬合的原因
使用一次函式 0 1x theta 0 theta 1x 0 1 x來 時，從圖中可以看出這不是乙個很好的模型，沒有很好的擬合訓練集，導致出現 欠擬合 問題。使用二次函式 0 1x 2x2 theta 0 theta 1x theta 2x 2 0 1 x 2 x2 來擬合資料集，此時的擬合效果很好...