談遷移學習

每當我想快速的了解某一知識的時候，我就找一篇綜述，下面是王惠-《遷移學習研究綜述》的部分內容。

遷移學習

遷移學習廣泛存在於人類的認知學習活動中：

而且在遷移學習的兩個領域之間，可以共享的資訊越多、相似度越高，知識遷移學習的效果就越好，反之，效果越差，甚至會給目標領域資料的學習帶來不好的影響，即產生「負遷移」現象。

遷移學習方法

例項遷移法(instance-transfer)

是根據某個相似度匹配原則從源域資料集中挑選出和目標域資料相似度比較高的例項，並把這些例項遷移到目標域中幫助目標域模型的學習，從而解決目標域中有標籤樣本不足或無標籤樣本的學習問題。

特徵遷移法(feature-representation-transfer)

主要是在源域和目標域之間尋找典型特徵代表來進一步弱化兩個域之間的差異從而實現知識的跨領域遷移和復用。該遷移方法根據是否在原有特徵中進行選擇進一步的又可分為特徵選擇遷移學習方法和特徵對映遷移學習方法。

引數遷移法(parameter-transfer)

源域資料和目標域資料可以通過某些函式表示，而這些函式之間存在某些共同的引數。引數遷移法就是尋找源域資料和目標域資料之間可以共享的引數資訊從而可以把已獲得的引數知識遷移。

關係遷移法(relational-knowledge-transfer)

假定源域資料之間的關係和目標域資料之間的關係存在一定的相關性，通過建立源域資料的關係模型與目標域資料的關係模型的對映模型來實現關係知識的遷移。

遷移學習相關技術研究

遷移學習的技術研究主要圍繞三個方面：遷移什麼、何時遷移和如何遷移。

遷移學習的應用

遷移學習的未來展望

遷移學習作為乙個新興的研究領域，解決的是如何利用已學到的知識幫助目標領域的學習，目前的研究主要集中在演算法方面，在應用方面的推廣還需要進一步的展開和深入。針對遷移學習的特點和目前的研究現狀，未來可能的研究方向可能有：

第一，領域之間相似性的度量方法研究。因為遷移學習的效果在很大程度上取決於領域之間的相似程度。因此進一步的研究準確的領域之間的度量方法是遷移學習工作中的一項重要工作。

第二，從多源域遷移知識。乙個領域的知識畢竟是有限的，可以嘗試把多個相關領域的知識幫助集中起來目標領域的學習，即把多源學習和遷移學習結合起來，這樣可以增加尋找到和對目標域學習更加有利知識的機會，從而提高遷移學習的學習效率與效果，使得遷移學習變的更加安全與穩定，有效避免負遷移的發生。

第三，遷移學習應用的適用性。目前的遷移學習研究工作應用範圍相對較窄主要集中在網頁分類方面，在其他方面的應用演算法還有待進一步的研究，如：人工智慧規劃、強化學習、自動控制等，從而不斷提高遷移學習應用的適用性。