GDPR到底是如何影響機器學習的?

2021-08-21 05:14:18 字數 1756 閱讀 9776

一般資料保護條例(

本文主要討論gdpr與機器學習(ml)之間三個最常見的問題。

1.gdpr

是否禁止機器學習?

總的來說,在gdpr生效後,ml不會在歐盟被禁止。

但是,從技術的角度來看,這個問題的答案是肯定的。gdpr作為法律條文,確實做出了對使用自動化決策的全面禁止的規定。當gdpr使用「自動化決策」這個術語時,該法規指的是任何模型都可以在沒有人直接參與決策的情況下做出決定。這可能包括資料主體的自動「概要分析」,例如將其分類為「潛在客戶」或「40-50歲男性」等特定組,以確定貸款申請人是否有資格獲得貸款。

當然,gdpr禁止ml也有例外情況。簡單來說,該法規確定了使用自主決策合法的三個領域:合同處理的必要性,其他法律另行授權的情況,或資料主體明確同意的情況。

但是,讓使用者同意並不容易,使用者可以同意許多不同型別的資料處理,並且他們也可以在任何時候撤銷同意,這意味著使用者同意需要細化和進一步的規範。

那麼,gdpr是否真的禁止使用ml模型?當然不是,但在許多應用ml的例子中,它使得這些模型及其輸入資料的部署和管理變得越來越困難。

2.ml

有沒有「解釋權」

作者去年

。潛在的解釋能力的存在可能會對資料科學產生巨大的影響,因為ml模型的**能力很大程度上很難解釋,

。雖然理論上,歐盟監管機構可以以最嚴格的方式解釋這些條款,但是現實中要想實現充分合理解釋似乎是不可能的。歐盟監管機構甚至可以將這些條款解讀為,當ml被用於在沒有人為干預的情況下做出決定時,以及當這些決定對資料主體產生重大影響時,這些人有權獲得關於正在發生的事情的一些基本形式的資訊。在gdpr中被稱為「有意義的資訊」和「設想的後果」可能會在此背景下被讀出。歐盟監管機構可能會將注意力集中在乙個資料主體上,該資料主體基於有關模型的資訊和其部署的上下文的相關資訊,對資料的使用做出明智的決定。

3.資料主體是否有能力要求模型在沒有資料的情況下進行訓練?

作者認為在實踐中答案是否定的。在gdpr下,所有資料的使用都需要有法律依據,《條例》第6條規定了六個相應的依據。最重要的兩個是「合法利益」的基礎,以及使用者明確同意使用該資料的地方。當處理的法律基礎是後者時,資料主體將會保留對這些資料的極大控制權,也就是說,他們可以在任何時候撤銷,而處理這些資料的法律依據將不再存在。

因此,如果乙個組織從乙個資料主體收集資料,使用者同意將他們的資料用於訓練乙個特定模型,然後資料主體隨後撤回該同意,那麼使用者何時可以強制模型重新訓練新資料呢?

只有當該模型繼續使用該使用者的資料時,答案才會出現。正如gdpr的29條規定的那樣,

,撤回之前所發生的所有處理仍然合法。因此,如果這些資料被合法的用於建立模型或**,那麼這些資料所產生的任何東西都可能被保留下來。在實踐中,一旦用一組訓練資料建立了乙個模型,訓練資料就可以在不影響模型的情況下被刪除或修改。

然而,從技術上講,一些研究

表明,模型可能會保留關於訓練資料的資訊,即使在訓練資料被刪除之後,這些資訊仍然可能被發現,正如研究人員nicolas *****not等人

所寫的那樣

。這意味著,在某些情況下,在不重新訓練模型的情況下刪除資料不能保證訓練資料不會被重新發現,或者不能保證原始資料不會被繼續使用。

但是訓練資料通過模型被重新發現幾乎是不可能的。作者認為,這種重新發現只是在學術環境中進行的,與企業資料科學家的日常相差甚遠。儘管這在理論上是有可能的,但這似乎是乙個邊緣案例,監管者和資料科學家只有在這種特定型別的例項變得更加現實的情況下才能解決這個問題。

>>>>閱讀全文

GDPR到底是如何影響機器學習的?

摘要 gdpr時代來臨,你的機器學習模型還能訓練嗎?一般資料保護條例 本文主要討論gdpr與機器學習 ml 之間三個最常見的問題。1.gdpr 是否禁止機器學習?總的來說,在gdpr生效後,ml不會在歐盟被禁止。但是,從技術的角度來看,這個問題的答案是肯定的。gdpr作為法律條文,確實做出了對使用自...

黑帽技術到底是如何實踐的

黑帽seo技術之權重轉移 相信大家也看過乙個新站權重5的站,在此之前,筆者一直疑惑,其實這就是黑帽中的權重轉移,權重轉移是通過hack手法拿到權重高,比如 站長網 通過拿到站長網的許可權,在首頁加一段黑帽301權重轉移 從而把權重轉移到新站。大家都知道301是永久重定向,黑帽seo中的權重轉移就是利...

Handler到底是如何完成執行緒切換的?

handler到底是如何完成執行緒切換的?這個問題要從handler最初的用法和原理講起。首先我們列出正常情況下乙個handler使用的步驟然後講解分析如何實現,這裡不對一些基礎的概念做解釋,具體的請查閱原始碼。handler的使用步驟 1.呼叫looper.prepare 2.建立handler物...