ppml(面向隱私保護的機器學習):敵手被假設違反了機器學習系統的私隱性和機密性。
攻擊模式:重構攻擊、模型反演攻擊、成員推理攻擊。
防禦方法:安全多方計算、同態加密、差分隱私。
secureml(安全機器學習):敵手被假設違反了機器學習系統的完整性和可用性。
攻擊模式:投毒攻擊、對抗攻擊、詢問攻擊。
防禦方法:防禦精餾、對抗訓練、正則化。
(資料投毒攻擊:使用汙染資料;
dns快取投毒攻擊是指攻擊者欺騙dns伺服器相信偽造的dns響應的真實性。這種型別攻擊的目的是將依賴於此dns伺服器的受害者重定向到其他的位址。
由於機器學習演算法的輸入形式是一種數值型向量(numeric vectors),所以攻擊者就會通過設計一種有針對性的數值型向量從而讓機器學習模型做出誤判,這便被稱為對抗性攻擊。)
完整性:出現檢測錯誤,將入侵行為檢測為正常的行為。
可用性:出現分類錯誤,假陰性和假陽性,系統不可用。
機密性:敏感資訊洩露。
重構攻擊:在模型訓練期間抽取訓練資料,或抽取訓練資料的特徵向量。
抵禦:避免使用儲存顯示特徵值的機器學習模型(svm、knn),安全多方計算、同態加密。
模型反演攻擊:重構模型的明文內容。敵手被假設為對模型擁有白盒訪問許可權或黑盒訪問許可權。
同態加密的貝葉斯網路
成員推理攻擊:推理出乙個樣本是否屬於該模型訓練集。
特徵推理攻擊:有背景知識的敵手,可以推理出資料集中某使用者的一些特徵。
群組匿名化隱私方法
讀書筆記2
關於this指標 雖然this指標大家已經很熟悉了,但是我這裡討論的關於this指標的問題可能大家還沒注意過 為了說明這個關於this的歸屬問題,我自寫了一段再簡單不過的程式,雖簡單但具體 include class a void aa 我的問題是指標p1是指向b自身嗎?一看程式,大家就知道 不是,...
讀書筆記(2)
沉默的藝術 意識科學基礎理論 量子效應只是用於穩定某種內在自由度極大的基本粒子,然後再用基本粒子的內在屬性產生意識體驗。只能通過呈現乙個系統的 物理 屬性來描述乙個系統。只能通過變成內在屬性配對的其中乙個系統,以直接體驗的方式來獲得這些內在屬性的資訊。定義乙個包含所有系統的系統d,除該系統外無任何系...
讀書筆記2
ripple專注於跨境支付領域,主要為銀行和其他金融機構提供基於區塊鏈協議的外匯 轉賬方案。目前已公布的銀行客戶有3家,並正在和另外80多家銀行深入洽談。ripple主 要通過其開發的interledger協議專案,在保持銀行等金融機構的各自不同的記賬系統的基 礎上,打造乙個全球統一的網路金融傳輸協...