關於完型填空的一點點思考

2021-10-24 02:55:36 字數 736 閱讀 2062

完型填空智慧型寫作上具有一定的應用場景,比如張三語言天賦不好,之前某個詞不知道用哪個詞彙更好,可以通過bert**最好的幾個單詞供張三選擇。

數學任務描述:

my best friend dances really well.

比如friend如果刪除掉,可以**出來是friend。

[』[cls]』, 『my』, 『best』, 『[mask]』, 『dances』, 『really』, 『well』, 『[sep]』]。

##完型填空本身屬於文字分類。bert是天生的完型填空模型,效果如下:

---------第 62 次推斷-------------

['[cls]', 'the', 'auto', '[mask]', 'is', 'hiring', 'again', '[sep]']

此處本為:

industry

填空**:

industry

---------第 63 次推斷-------------

['[cls]', 'my', 'best', '[mask]', 'dances', 'really', 'well', '[sep]']

此處本為:

friend

填空**:

friend

上面的效果只是遠地方詞彙替換,實際用到完形填空中間的詞彙可能有很多種選擇,實際資料和label直接因為長度會不同,所以需要新增mask進行對齊,然後進行**。

關於人生的一點點思考

最近有點迷茫,有點墮落,在這種時候我就會思考我的人生。我都20歲了。還一事無成.我只是乙個三本院校的大二學生,沒有多麼好的計算機環境。大一才知道程式設計。我看過好多名人傳記,我也總看csdn的文章。新聞。看微軟谷歌相互爭奪市場,看人家發明語言,看每個世界級公司的偉大新發明。我得反思我自己考慮我自己。...

關於樣本均衡的一點點思考

在分類場景中經常會遇到,某些類別資料特別多,某類或者幾類資料特別少。作為極限測試,假如正樣本10000個,負樣本只有1個。進行模型引數優化。其實相當於一直在優化正樣本,使得正樣本過學習,負樣本幾乎沒有優化模型引數。針對負樣本的1個,很大概率是有問題。為了重述上面的問題。假如現在乙個三歲的孩子需要識別...

關於Lisp的一點點

以後寫的語言相關應該主要是ruby 也許還有少數的c 了,所以在這裡先記錄一點關於lisp的東西。首先是乙個小故事 在 ilc 2002 大會上前lisp大神,當今的python倡導者peter norvig,由於某些原因,做乙個類似於馬丁路德在梵蒂岡宣揚新教的主題演講,因為他在演講中大膽地聲稱py...