資料不均衡的簡單處理方法，以及其的好壞。

本文內容基本來自一下**，簡單記錄一下資料不均衡的各種處理方法，以及各方法的好壞：

diving deep with imbalanced data

首先就是較為簡單的隨機下取樣，也就是訓練的時候，從多數類抽取與少數類差不多的數量，使得訓練的時候資料均衡。

優點：很明顯增加了訓練的速度，減小了gpu的壓力。

缺點：1.會導致損失一部分的資訊，不利於建立基於規則的模型(rule-based classifiers)，比如隨機森林。（本人沒有使用過隨機森林，所以不是很理解）

2.單純的隨機取樣，可能會獲得乙個有偏差的樣本，最後訓練的模型的泛化效能可能較差。

與隨機下取樣方法對應的就是隨機上取樣，這個方法簡單的執行就是複製n次少數類，但這不一定是好方法，可以使用一些隨機增強的方式增加少數類。

優點：這總方法不會損失資訊。

缺點：單純的複製少數類，這樣可能會導致模型的過擬合。

以下場景你可以考慮使用以上方法：

1.資料比較多的時候，可以使用隨機下取樣，提公升訓練速度是很開心的事情。

2.資料較少的時候，可以使用隨機上取樣，這樣不會導致你要複製過多的少數類，而產生各種問題。

3.考慮一下其他的隨機方法，比如分層抽樣。

4.考慮一下其他比例，不一定要把資料的比例調整為1:1

然後基於提高少數類的目的，我們可以考慮生成更多少數類樣本，有點類似隨機增強。比較經典的演算法就是smote。目前類似的方法有很多了，大家可以多搜搜這樣方面的文獻，或許你可考慮一下更加高階的對抗生成網路。

優點：1.比起單純的複製少數類，該方法可以增加模型的泛用性，減小過擬合。

2.不會丟失資訊

3.簡單，方便，可解釋。

缺點：1.生成樣本的時候，smote不會考慮生成樣本周圍屬於其他類別的樣本，生成的樣本和其他類別的樣本重疊，而引入雜訊。

2.不適用與高緯度資料。（我覺得也不適合複雜資料，比如生成醫學影象，效果很差。）

應該是應用其他最為舒適，需要增加任何樣本的代價敏感學習（cost-sensitive learning），簡單來說就是在損失函式上給少數類加入更多權重，比如wce_loss，dice_loss，focal_loss……挺多的，隨機組合起來就更多了。

常用的方法就是以上，算的上較為萬能。不過不管什麼方法還是結合自己資料集的實際情況。依據具體情況，你也可知制定出特有的處理資料不均衡的方法。