元學習**總結||小樣本學習**總結
2017-2023年計算機視覺頂會文章收錄 aaai2017-2019 cvpr2017-2019 eccv2018 iccv2017-2019 iclr2017-2019 nips2017-2019
如果機器也能擁有這種學習能力的話，面對樣本量較少的問題時，便可以快速地學習，這便是元學習（meta learning），也可以稱為元學習。
在此之後，人們發現通過元學習能夠很好地實現小樣本分類任務，因此越來越多的人將目光投在了元學習上。總體來說，通過元學習的方法實現小樣本分類大體上有三種：
近年來，小樣本學習分類發展迅速，面對眾多的分類任務，都可以通過訓練乙個模型來達到任務要求。其中元學習的方法較多，為了最大的適用性，元學習的機制應該是任務的通用性，即面對不同的任務，不需要構建不同的模型，用同樣的一套學習演算法即可解決多種不同的任務。定義乙個模型的可學習引數θ，面對不同的任務，可以通過改變引數θ的值來解決相應的任務。而引數θ的值可以通過元學習器去學習，在面對不同任務的時候，根據損失函式通過梯度下降的方法不斷地更新θ值，使這個模型不斷向能解決這個任務的模型靠近，當θ值最終收斂時，我們認為元學習器學習到了乙個較好的引數θ，讓模型自適應地解決相應任務。這個演算法是十分高效地，因為它沒有為學習器引入其他的引數，並且訓練學習器的策略使用的是已知的優化過程（如梯度下降等）而不是從頭開始構建乙個。
後一篇是在前一篇的基礎上進行的相關擴充套件。
在樣本量較少的任務中，通常的一些學習器會因為樣本較少出現過擬合的現象，同時在訓練過程中，為了達到乙個較好的效果，學習器通常會訓練迭代百萬甚至千萬次才能夠收斂。這些問題不僅影響了學習器的效能，也影響了效率。我們在元學習器中採用了lstm網路，使用任務中少量的已標記樣本，通過元學習器來優化更新學習器的初始化引數，讓學習器在面對相應任務的時候，能夠僅用少量的樣本，同時較快收斂，達到快速學習解決任務的目的。
（怎麼在元學習中採用lstm網路）
在此推薦一篇**
2017-iclr-《optimization as a model for few-shot learning》（**訓練了乙個長短期記憶網路（lstm））
筆記 深度學習場景調研
深度學習的大潮如火如荼，但深度學習並非所有問題的最好答案。那麼哪些方向已經較為成熟應用了深度學習並取得了較好效果呢，通過了解深度學習如何解決不同的問題，從而更深入理解深度學習演算法的特點與適用性，做了相關調研，附上鏈結如下 基於深度學習的目標檢測演算法綜述 如何評價rcnn fast rcnn和fa...
GAN的調研和學習
近期集中學習了gan，下面記錄一下調研的結果，和學習的心得，疏漏的地方，敬請指正。本文將分為幾個部分進行介紹，首先是gan的由來，其次是gan的發展，最後是gan的應用。先把最近收集的資料列舉一下吧。其中首推知乎的一位博士生，講解的深入淺出，將來也是出好產品的科研人啊。令人拍案叫絕的wasserst...
windows驅動開發學習入門調研
公司專案中需要windows驅動的方面的工作。以前我也有興趣，只是沒有需求，也沒有深入，這個主要是沒有動力。這次公司有這個需求，我覺得有動力，可以向這個方向努力一下。那麼這就又開始對windows驅動開發先做一下初級階段的調研 windows驅動開發如何入門 wdk 環境搭建 vs2015 wdk1...