GAN入門介紹

2021-08-15 13:20:31 字數 761 閱讀 8855

生成對抗網咯(gan)是一類在無監督學習中使用的神經網路,其有助於解決按文字生成影象、提高解析度、藥物匹配、檢索特定模式的等任務。生成對抗網路由lan goodfellow 於2023年提出,最近幾年非常熱門,但是由於其存在訓練困難、生成器與判別器的loss無法指示訓練程序、生成樣本缺乏多樣性等問題,仍在需要研究解決,雖然已經有一些變體,這篇文章只寫寫初步理論,感興趣可以點這裡:

用乙個例子來比喻,假設你想買塊好錶,但是從未買過錶的你很可能難辨真假;買錶的經驗可以避免奸商欺騙。當你開始將大多數手錶標記為假錶(在被騙之後),賣家開始生產更逼真的山寨表。這種買家與賣家之間的互相博弈,就像gan的原理:判別器網路(手錶買家)和生成器網路(生產假錶的賣家)。

想要學習生成器的分布,應該定義資料x的引數p_g,以及輸入雜訊變數p_z(z)的分布。然後g(z,0_d)將z從潛在空間z對映到資料空間,d(x,0_d)輸出單個標量—乙個x來自真實資料而不是p_g的概率。

訓練判別器以最大化正確標註實際資料和生成樣本的概率。訓練生成器用於最小化log(1-d(g(z)))。換句話說,儘量減少判別器得出正確答案的概率。

兩張概括其原理:

生成對抗網路作為最近火熱的人工智慧技術,我們有必要關注它,了解它,我相信gan其強大的特點能改變機器學習未來。

GAN的簡單入門

最近在準備畢業設計的開題,基本確定了gan這個大方向,接下來一年計劃用部落格記錄一下gan的學習歷程吧。今天先記錄一下對於gan的一些個人理解。gan的全稱叫生成對抗網路,主要用於生成與真實樣本相似的樣本。gan包含了兩個模組,乙個是用於生成樣本的生成網路generative,另乙個是用來判別樣本是...

GAN網路之入門教程(二)之GAN原理

在一篇部落格gan網路從入門教程 一 之gan網路介紹中,簡單的對gan網路進行了一些介紹,介紹了其是什麼,然後大概的流程是什麼。在這篇部落格中,主要是介紹其數學公式,以及其演算法流程。當然數學公式只是簡單的介紹,並不會設計很複雜的公式推導。如果想詳細的了解gan網路的原理,推薦去看李巨集毅老師的課...

從GAN 到 ALICE 的簡單介紹

gan gan由乙個判別器和乙個生成器組成,gan的目標是訓練乙個生成器來獲取資料的分布。判別器的訓練目標是在真實樣本和生成器生成的假樣本裡識別出真實樣本,生成器的訓練目標是盡可能地讓判別器識別錯誤,所以gan的整體目標函式是對交叉熵損失函式進行minmax優化。gan的具體實現是在每次迭代裡同時對...