elmo：
elmo是一種是基於特徵的語言模型，用預訓練好的語言模型，生成更好的特徵。而elmo的主要做法是先訓練乙個完整的語言模型，再用這個語言模型去處理需要訓練的文字，生成相應的詞向量。
文字分類實戰（九）—— elmo 預訓練模型
在nlp領域，使用預訓練模型或元件的監督學習任務被稱為下游任務
bert:
[nlp自然語言處理]谷歌bert模型深度解析
基於自然語言的連貫性，語言模型根據前文的詞，**下乙個將出現的詞。如果語言模型的引數正確，如果每個詞的詞向量設定正確，那麼語言模型的**，就應該比較準確。天下文章，數不勝數，所以訓練資料，取之不盡用之不竭。
nlp必讀 | 十分鐘讀懂谷歌bert模型
TensorFlow Keras預訓練模型測試
densenet121 densenet169 densenet201 inceptionresnetv2 inceptionv3 mobilenet nasnetlarge nasnetmobile resnet50 vgg16 vgg19 xception 這些人工神經網路模型的類都有各自對應的...
pytorch fine tune 預訓練模型
以 resnet18 為例 from torchvision import models from torch import nn from torch import optim resnet model models.resnet18 pretrained true 假設 我們的 分類任務只需要 ...
hugging face 預訓練模型
發現乙個很好用的預訓練模型 裡面有超級多的預訓練模型，常見的bert,robert,gpt,electra,xlnet等。使用方法也很簡單，以bert為例 載入時只需要兩步 1.from transformers.models.bert.modeling bert import bertforseq...