對抗攻擊基礎知識，主要是對抗方法
對抗方法：
fgsd(fast gradient sign method) 一種基於梯度生成對抗樣本的演算法
fgm(fast gradient method) 對fgsd做了推廣，使其能夠滿足 l2約束
ifgsd(iterative gradient sign method) 也是對fgsd的一種推廣，是上述演算法的多次應用
deepfool 基於超平面分類思想的一種對抗樣本生成方法，超平面是實現分類的基礎 ，那麼要改變某個樣本 x 的分類，最小的擾動就是將 x 挪到超平面上，這個距離的代價最小
c&w(carlini & wagner) c&w演算法與ifgsd同屬於一種迭代攻擊演算法，它使用乙個變數 wn 輔助尋找最小擾動 rn
optimization based method 這一演算法的訓練目標是在能夠達到攻擊目的的前提下，最小化對抗樣本和原始樣本之間的距離
上面提及的幾種演算法是目前用於測試防禦演算法能力最常用的演算法，其中fgsd尤為重要，應用最廣
主要是防禦方法
防禦方法：
對抗訓練：對抗訓練是通過不斷輸入新型別的對抗樣本進行訓練，從而不斷提公升模型的魯棒性。為了保證有效性，該方法需要使用高強度的對抗樣本，並且網路架構要有充足的表達能力
防禦性蒸餾：一層模型的輸出，也作為特徵然後再訓練 stacking
去噪網路：去噪的思想是使得去噪後的對抗樣本更解接近於原始樣本，相當於想把生成對抗樣本的加入的雜訊去掉，盡可能恢復成原始樣本，從而對對抗樣本能夠準確地分類。常用網路：denoising autoencoder（dae），另乙個是 denoising additive u-net（dunet），pgd-->hgd(更好）
apt攻擊基礎知識的整理
公鑰密碼解決保密性問題 數字簽名解決完整性和有效性問題 簡單來說，數字簽名 digital signature 是公鑰密碼的逆運用 用私鑰加密，公鑰解密。用私鑰加密的資訊稱為簽名，只有擁有私鑰的使用者可以生成簽名。用公鑰解密簽名這一步稱為驗證簽名，所有使用者都可以驗證簽名 因為公鑰是公開的 為什麼逆...
對抗樣本的相關基礎知識的介紹
過去，深度學習快速發展，在許多方面得到了廣泛應用，比如語音識別 影象分類 目標檢測等。但隨之而來的是它的安全性問題。2013年，szegedy等人發現，對影象新增小的擾動，能夠以高概率欺騙深度神經網路 dnn 使其產生錯誤的分類結果，這些錯誤分類的樣本被稱為對抗樣本。對抗樣本 adversarial...
ML對抗攻擊
記錄一下李巨集毅機器學習課程關於對抗攻擊的內容 1 一般模型training過程 輸入x 0，調整模型network的引數 使得輸出y 0和y true的loss越小越好 損失函式 l train c y 0,y true non targeted attack 固定模型network的引數 調整輸...