這篇文章主要介紹一種自監督的學習方法，即互資訊最大化。到目前為止有很多**來最大化互資訊從而得到乙個更好的結果，本文選擇的兩篇**為發表在iclr 2020上的
a mutual information maximization perspective of language representation learningarxiv.org
以及cikm 2020上的**
s^3-rec: self-supervised learning for sequential recommendation with mutual information maximizationarxiv.org
第一篇**提出最大化互資訊可以為目前的語言模型提供乙個統一框架，第二篇**則通過最大化互資訊作為輔助loss來改善序列推薦問題。
互資訊衡量兩個變數的依賴程度，可以理解為給定其中乙個變數，可以多大程度的減少另乙個變數的不確定性，具體為
直接優化互資訊通常是很難操作的，很多任務作轉而優化它的乙個下界。基於noise contrastive estimation的 infonce已經應用在很多任務作上，其定義為
其中 有了這個公式，作者表示很多語言模型都可以看作在這個框架下
其中 第二篇**則是在序列推薦這個任務上具體應用最大化互資訊。主要是構建來不同的view，加入四個輔助loss。第乙個是建模item和attribute之間的關係，
第二個是建模序列與item之間的相關性，使用和bert一樣的mask來學習
第四個是建模序列和segment之間的關係
可以看出只要給定不同的view，就可以應用infonce的公式來進行優化。整體預訓練過程為
從這兩篇**可以看到基於自監督的最大化互資訊有很大的應用空間，通過自監督的方法來學習資料中更本質的一些模式，值得在更多的任務場景中嘗試，或者直接用互資訊的概念進行一些資料統計可能在業務中就會有很好的效果。
視窗最大化
1 jframe 視窗最大化，在建構函式中 新增如下 this.setextendedstate jframe.maximized both 2 jinternalframe視窗最大化，需要在新增到jframe的desktoppane之後設定，如下 bookframe.setmaximum true...
最大化 如何將RPA的價值最大化？
自動化技術讓企業能夠更有效的利用資源，減少由於人為失誤而造成的風險損失。隨著科技的進步，實現自動化的途徑變得更加多樣化。據forrester 自動化技術將在2019年成為引領數位化轉型的前沿技術，幫助重塑商業模式和客戶體驗。但是市面上有那麼多提供自動化技術的產品，究竟選擇哪乙個更合適？尤其是當這些技...
視窗的最大化
原來的 15.13 判斷視窗的最大化 最小化狀態並進行控制 mfc中的cwnd類提供了下面兩個函式用於判斷視窗的最大化 最小化狀態，其子類繼承了這些函式 iszoomed 判斷視窗是否處於最大化狀態。isiconic 判斷視窗是否處於最小化狀態。可以使用cwnd showwindow函式設定視窗的顯...