了解到meta learning有一種開啟了新世界大門的感覺。記錄一下model-agnostic meta learning這篇**的學習筆記,以便日後自己溫習。
已經有兩篇寫的非常詳細清晰的文章,參考這兩篇即可:
1.先了解few shot learning 和meta learning的主要解決思路:
few-shot learning(少樣本學習)和 meta-learning(元學習)概述
2.maml: model-agnostic meta-learning for fast adaptation of deep networks (模型無關的元學習用於快速適應深度網路)的2.2演算法部分對演算法描述的非常清楚。
關於MAML的那些事
多餘的元學習廢話也不多說,直接上乾貨 演算法 關於學習率 兩個學習率a b,要知道,為了一步優化探測task最優引數的位置 inner loop 我們必須使用稍微大點的學習率a,這叫一步到位。而優化你真正模型引數的學習率應該是很小的 outer loop 因為他必須在引數空間中經過漫長的迭代,慢慢找...
學習筆記 雜湊學習筆記
hash基本原理 hash就是乙個像函式一樣的東西,你放進去乙個值,它給你輸出來乙個值。輸出的值就是hash值。一般hash值會比原來的值更好儲存 更小 或比較。那字串hash就非常好理解了。就是把字串轉換成乙個整數的函式。而且要盡量做到使字串對應唯一的hash值。它的主要思路是選取恰當的進製,可以...
學習筆記 CentOS 學習筆記01
簡單的做個課堂筆記 虛擬機器用的是vmware,系統是centos cd etc sysconfig network scripts pwdls 顯示列表 cat ifcfg eth0 檢視檔案內容 vi ifcfg eth0 進入vi編輯器 onboot no 原始設定 x逐字刪除 d刪除整行 a...