2.1面向隱私保護的機器學習
privacy-preserving machine learning ,ppml
包括以下幾種方法：
2.2面向隱私保護的機器學習與安全機器學習
二者區別主要在於他們被設計用來應對不同的安全威脅：
（1）在安全機器學習中，敵手被假設違反了機器學習的完整性和可用性
（2）在ppml中，敵手被假設違反了機器學習系統的私隱性和機密性
2.3威脅與安全模型
（1）重構攻擊：
敵手的目標是在模型的訓練期間抽取訓練資料或訓練資料的特徵向量。在集中式學習中，大量的資料被上傳至計算方，這就導致資料很容易受到敵手的攻擊。
（2）模型反演攻擊
敵手被假設對模型擁有白盒訪問許可權或黑盒訪問許可權。對於黑盒訪問，敵手只需要儲存特徵向量便能獲得模型的明文內容。對於白盒訪問，敵手只能查詢模型的資料和收集返回結果。擁有黑盒許可權的敵手也可能會通過實施方程求解攻擊，從回應中重構模型的明文內容，理論上，對於乙個n維的線性模型，乙個敵手可以通過n+1次查詢來竊取整個模型的內容（類似解方程組）。
（3）成員推理攻擊 敵手對模型至少有黑盒訪問許可權，同時擁有乙個特定的樣本作為其先驗知識。敵手的目標是判斷模型的訓練集中是否包含特定的樣本。
（4）特徵推理攻擊
敵手出於惡意目的，將資料去匿名化或鎖定記錄的擁有者。在資料被發布之前通過刪除使用者的個人可識別資訊（也稱為敏感特徵）來實現匿名化，是保護使用者隱私的一種常用方法。但此方法已被證實並不十分有效。
2.3.2攻擊者和安全模型
兩種型別的敵手：
半誠實的敵手（semi-honest）:敵手遵守協議，但也會試圖接收到資訊中學習更多除輸出以外的資訊。
惡意的敵手（malicious）:敵手不遵守協議，可以執行任意的攻擊行為。
大多是的ppml研究中都考慮了半誠實的敵手模型，原因是在聯邦學習中，遵守協議對雙方都是有利的。
2.4隱私保護技術
《聯邦學習》 個人筆記（四）
4.1橫向聯邦學習的定義 橫向聯邦學習也稱為按樣本劃分的聯邦學習，可以應用於聯邦學習的各個參與方的資料集有相同的特徵空間和不同的樣本空間的場景。4.2 橫向聯邦學習架構 4.3聯邦平均演算法介紹 聯邦平均演算法 在協調方執行 初始化模型引數w0，並將原始的模型引數w0廣播給所有的參與方。for 每一...
聯邦學習 聯邦學習
文章內容主要來自文末網盤內部分資料 最近微眾舉辦了乙個面向高校大學生的ai比賽，題目如下 基於微眾提出的聯邦學習模型，設計一款有應用場景的產品。資料來源之間存在著難以打破的壁壘，一般情況下人工智慧的所需要的資料會涉及多 個領域，例如在基於人工智慧的產品推薦服務中，產品銷售方擁有產品的資料 使用者購買...
聯邦學習學習心得（1） 聯邦學習簡介
國際社會上對資訊保安 個人隱私的問題越來越重視，各種相關的法案相繼頒布，對私人資料的管理 監督 保護更加全面化 嚴格化 密集化。各個公司對各自的資料也越來越重視，作為資產不可能拿出來分享，這就造成了資料孤島的現象。同時與傳統的機器學習 machine learning 和深度學習 deep lear...