最近調研了不少遷移學習的工作，本文選取7種常見的遷移學習分享給大家。因為我感覺遷移學習在nlp領域的很多任務中有很大的利用價值，畢竟高質量的標註資料是很少的，而人工標註費時費力，而且質量不一定好。
1. domain adaptation 領域自適應
1.1 動機
領域自適應是一種遷移學習，它將不同源領域的資料或特徵對映到同乙個特徵空間，以便於利用其源領域資料或特徵來增強目標領域的訓練，進而達到更好的訓練效果。領域自適應學習不要求訓練資料和測試資料一定具有相同的分布。
1.2 目的
利用資料或特徵更多的源領域來提公升資料或特徵相對較少的目標領域的模型效能。
1.3**和**
**： 2017
**：2.1 動機
2.2 目的
充分理由源領域的資料進行訓練，以便於更好的遷移到目的領域。
2.3 **和**
**： 2014.
**：3. lifelong transfer learning 終身遷移學習
3.1動機
不再單單是在特定領域終身學習，而是通過終身不斷的學習來提公升源領域到目標領域的遷移效果。
3.2 目的
通過終身不斷的學習來增強源領域到目標領域的遷移。
3.3 **和**
**： ijcai 2015.
**：4. heterogeneous transfer learning 異構遷移學習
4.1 動機
遷移學習一般不要求訓練資料和測試資料有相同的分布，而異構遷移學習連訓練資料和測試資料的特徵維度也不再要求一樣。
4.2 目的
訓練資料和測試資料的特徵維度也允許不同，這樣更有利於擴大遷移學習的適用範圍。
4.3 **和**
**： acml 2018。
**：5. deep transfer learning 深度遷移學習
5.1 動機
深度學習具有非常強的資料擬合能力，可學習到泛化能力更強的特徵表達，而遷移學習能學習到領域無關的特徵表達。如果通過深度神經網路利用其他領域的知識，能充分利用神經網路來學習所有領域共同具有的特徵表示。
5.2 目的
將深度學習與遷移學習相結合，同時利用深度學習和遷移學習的優勢。
5.3 **和**
**： 2016。
**：6. reinforcement transfer learning 強化遷移學習
6.1 動機
強化學習需要多步決策，其實在決策時如果資料較少，可能可以嘗試策略的遷移學習。
6.2 目的
將強化學習與遷移學習相結合，同時利用強化學習和遷移學習的優勢。
6.3 **和**
**： 1810.06667。
**：7. adversarial transfer learning 對抗遷移學習
7.1 動機
遷移學習一般是單向的遷移，那麼如果雙向進行對抗的遷移學習的話，效果可能會更好，因為可以互相遷移而共享共有的資料和特徵。
7.2 目的
雙向對抗的遷移學習，盡最大努力的充分利用源領域和目標領域的資料和特徵。
7.3 **和**
**：**：開通讚賞不是為這點小錢，已經手動調低金額。等讚賞積累到夠買書了，我就買ai相關的書找作者簽字，然後郵寄給一些幸運者（比如關注時間長、平時活躍等）。
外語學習中的7種常見誤區
外語學習中的7種常見誤區 大部分人在學習外語的過程中都會存在著一些錯誤的想法,這篇文章舉出了其中最常見的7種誤區。在這個地球上大約有著超過6000種不同的語言。其中的一些語言往往要比其他的語言更為重要,這並不是因為它們是一種更高階的語言。為什麼?因為相比其他的語言,這些語言有著更廣泛的使用人群。當然...
常見的7種排序演算法
1 氣泡排序 最簡單的一種排序演算法。先從陣列中找到最大值 或最小值 並放到陣列最左端 或最右端 然後在剩下的數字中找到次大值 或次小值 以此類推，直到陣列有序排列。演算法的時間複雜度為o n 2 氣泡排序 void bubblesort int arr,int length 2 選擇排序 嚴蔚敏版...
機器學習實踐中的7種常見錯誤
統計建模非常像工程學。在工程學中，有多種構建鍵 值儲存系統的方式，每個設計都會構造一組不同的關於使用模式的假設集合。在統計建模中，有很多分類器構建演算法，每個演算法構造一組不同的關於資料的假設集合。當處理少量資料時，嘗試盡可能多的演算法，然後挑選最好的乙個的做法是比較合理的，因為此時實驗成本很低。但...