聚合運算元應根據聚合策略、加密方式進行定製。常見的聯邦學習聚合運算元定製方法是以隨機數為基礎,結合多方安全計算協議進行變化。
啟用函式
啟用函式應包括但不限於:
a) 傳統機器學習的啟用函式,如 sigmoid、softmax、tanh、softsign 等;
b) 聯邦學習的聯合啟用函式,如基於半同態加密的泰勒展開 sigmoid、基於秘密共享的 relu等。
正則化處理器
正則化處理器應包括但不限於:
a) 傳統機器學習的正則化處理器,如 l1、l2 等;
b) 聯邦學習的聯合正則化處理器,如基於半同態加密的泰勒展開 l1、基於半同態加密的泰勒展開l2 等。
代價函式
代價函式應包括但不限於:
a) 傳統機器學習的代價函式,如交叉熵(cross entropy)、均方誤差(mean squared error)、平均絕對誤差(mean absolute error)等;
b) 聯邦學習的聯合代價函式,如基於半同態加密的二分類交叉熵等。
優化方法
優化方法應包括但不限於:
a) 傳統機器學習的優化方法,如隨機梯度下降(sgd)、rmsprop、adagrad、adam 等;
b) 聯邦學習的聯合優化方法。
梯度處理器
梯度處理器應包括但不限於:
a) 傳統機器學習的梯度處理器;
b) 聯邦學習的聯合梯度處理器。
多方安全計算運算元
多方安全計算運算元的基本原則包括:
a) 參與方的加密 / 脫敏元件使用其他參與方、協調方支援的演算法對資料進行處理,並移除與原資料有關的資訊;
b) 協調方負責加密、解密和金鑰管理,並將結果傳輸至相關參與方。
多方安全計算運算元的實現方式包括:
a) 同態加密(homomorphic encryption);
b) 秘密共享(secret sharing);
c) 遺忘傳輸(oblivious transfer);
d) 混淆電路(garbled circuit);
e) rsa 加密演算法,金鑰為 1024bit 或以上;
f) 可信執行環境(trusted execution environment,tee)。
常見多方安全計算運算元包括:
a) 四則運算運算元;
b) 大小比較運算元;
c) 邏輯與 / 或 / 非運算元;
d) 向量計算運算元。
Ascend Pytorch運算元適配層開發
ascend pytorch運算元適配層開發 適配方法 找到和pytorch運算元功能對應的npu tbe運算元,根據運算元功能計算出輸出tensor的size,再根據tbe運算元原型構造對應的input output attr,傳遞給acl完成tbe運算元的執行。說明 tbe運算元實現的原始檔存放...
DLL中新增ADO元件運算元據庫
import c program files common files system ado msado26.tlb no namespace rename eof adoeof pragma warning disable 4146 import c program files common fi...
彈出層元件(公升級版)
前面文章裡寫過乙個彈出層對話方塊,但ie6下有bug,根本沒有實現position fixed的效果,當時沒有真實ie6環境,測試疏忽,匆匆放到部落格上,還讓一些讀者看到甚至使用,在這裡表示萬分抱歉啊!這次還是利用原來 的組織結構重新加強了功能,目前來說還有個小問題,ie6下自定義彈出層會出現無法遮...