終於來到了我感興趣的東西，如何教會機器進**感分析。目標是通過給定的不定長文字序列輸出情緒類別，運用了預訓練的詞向量和多隱藏層的雙向rnn和cnn，是詞嵌入的下游應用。
隨機改變樣本從而降低模型對屬性的依賴性，並且也可以擴大資料集規模。
例如：翻轉、裁剪、變化顏色（亮度、對比度、跑合度、色調）以及以上各種變化的復合疊加
運用影象增廣方法其實對資料集特點也有要求
站在巨人肩膀上看報紙的感覺
1.有源模型和目標模型
2.除了輸出層之外複製所有源模型引數、做一些微調、對輸出層使用較大的學習率，對其他層使用較小的學習率。
3.熱狗識別要在不餓的情況下做，對resnet模型進行微調從而判別影象中是否包含熱狗
4.成員變數fc
我來了我來了還在寫還在寫
動手學深度 Task08
資料增強 模型微調 文字分類 資料增強 通過對資料進行翻轉 增加雜訊 調整色調亮度等等操作，提高模型的泛化能力。模型微調 屬於遷移學習的範疇，學習如何將別人訓練好的模型嫁接到目標專案上 裡面講到乙個技巧是，將輸出層引數隨機初始化，而隱藏層不變 學習過程中，隱藏層用較小的學習率，輸出層用較大的學習率 ...
動手學深度學習 Task07筆記彙總
演算法細節不是很感興趣，就看了看軌跡理解了一下 1.指數加權移動平均ema 2.adagrad 給各維度各自的學習率 沒用到ema 出現梯度消失的原因是自適應學習率分母的不斷累加使其存在最終趨於0的可能 3.rmsprop 利用ema解決了adagrad梯度消失的問題 4.adadelta 基於rm...
動手學深度學習 task01
task 1 線性回歸 多層感知機 softmax函式 1 線性回歸作為基本的機器學習演算法，實現較簡單，應用廣泛。以下為用pytorch編寫的線性回歸類 import torch.nn as nn import torch from torch.autograd import variable f...