初探對抗攻擊 黑盒攻擊 白盒攻擊

2021-10-25 02:22:31 字數 336 閱讀 8445

對抗攻擊概念

通過對輸入新增微小的擾動使得分類器分類錯誤,一般用於對深度學習的網路的攻擊演算法 最為常見,應用場景包括目前大熱的cv和nlp方向,例如、通過對新增精心準備的擾動雜訊使得分類錯誤,或者通過對乙個句子的某些詞進行同義詞替換使得情感分類錯誤。

關於攻擊的型別有很多種,從攻擊環境來說,可以分為黑盒攻擊、白盒攻擊或者灰盒攻擊:

攻擊者對模型一切都可以掌握。目前大多數攻擊演算法都是白盒攻擊。

攻擊者對攻擊的模型的內部結構,訓練引數,防禦方法(如果加入了防禦手段的話)等等一無所知,只能通過輸出輸出與模型進行互動。

ML對抗攻擊

記錄一下李巨集毅機器學習課程關於對抗攻擊的內容 1 一般模型training過程 輸入x 0,調整模型network的引數 使得輸出y 0和y true的loss越小越好 損失函式 l train c y 0,y true non targeted attack 固定模型network的引數 調整輸...

用 iptables 對抗 CC 攻擊

我們可以使用 iptables 來在一定程度上實現 黑洞 抗 cc 連線耗盡 攻擊的能力,詳細配置如下 1.系統要求 1 linux 核心版本 2.6.9 42 elsmp 或 2.6.9 55 elsmp 其它核心版本需要重新編譯核心,比較麻煩,但是也是可以實現的 2 iptables 版本 1....

攻擊對抗基礎知識

對抗攻擊基礎知識,主要是對抗方法 對抗方法 fgsd fast gradient sign method 一種基於梯度生成對抗樣本的演算法 fgm fast gradient method 對fgsd做了推廣,使其能夠滿足 l2約束 ifgsd iterative gradient sign met...