大資料、計算和演算法是人工智慧的三大要素，如何保障資料安全和資料的清潔度，是提公升智慧型產品安全性的關鍵因素。近日，bat等網際網路企業齊聚深圳，在2018 全球人工智慧與機械人峰會（ccf-gair）上圍繞智慧型安全進行深入**。
作為受邀嘉賓，阿里巴巴安全部演算法資深總監路全指出，人工智慧帶來更多可能的同時，也帶來了諸多安全風險，尤其黑灰產正在使用「資料汙染」、「資料中毒」等新型複雜化手段，與人工智慧行業的正向發展進行激烈對抗。
他以人工智慧汽車的安全問題舉例稱，除了「利用智慧型演算法本身缺陷改變交通標誌」或以「傳統的黑客入侵滲透控制其他平民汽車」等方式，可以控制攻擊智慧型汽車外，通過向智慧型裝置雲端或系統輸入汙染、「中毒」資料，同樣可以用來攻擊人工智慧系統及裝置。
其攻擊原理是，人工智慧都基於大資料演算法來實現精準運算，最終產生實際行為，正是利用這一特性，對抗方可以輸入一些受汙染的資料「餵養」、「訓練」人工智慧系統，使其偏離正常的運算目標，最終產生失焦的運算行為，從而引發一系列安全風險。
「黑灰產對抗方會用大量低階爬蟲或低階流量，來試圖爬取網際網路公司的資料資訊，他們明知低階爬蟲很容易被殺掉，但仍會不惜成本投入。」路全解釋稱，這些低階爬蟲樣本產生的「汙染資料」會影響和扭曲演算法模型，最終他們還會利用少量摻雜其中的高階爬蟲進行攻擊。
「資料中毒的目的就是讓機器學習模型不能覆蓋正確的目標，從而使其防護失效。」路全表示，阿里安全已經建立起了雙層防護機制，專門防護系統安全和防護資料汙染。
「所有網際網路公司必須警惕『資料汙染』這種攻擊手段，因為由黑灰產發起的機器流量是資料汙染的源頭，為此阿里巴巴除了在傳統網路安全上建立安全防禦體系防禦黑客入侵和滲透外，還建立了全新的流量清洗智慧型防禦系統。」路全介紹，阿里巴巴建立的機器流量防控體系主要由三部分組成，其中包括相當於「眼睛」的檢測模組；以及等同「大腦」的分類模型，還有輔助系統。
基於阿里巴巴擁有的豐富業態，阿里安全實驗室在機器演算法方面已有深入研究，由達摩院領銜的各大實驗室也已研發出各種優秀演算法，並應用於阿里生態的搜尋、廣告、iot、客服等多個業務線。
「如果把ai視作乙個正在茁壯成長的小孩，那麼髒資料或資料汙染就是病毒有害物，ai演算法和機器學習是根據大量資料來進行的，如果資料被汙染，就像小孩吃了不健康的東西。」路全形象地比喻說，「要像呵護孩子一樣，去呵護我們的ai系統。」
Anti DDOS流量清洗
當雲主機受到大量攻擊後，雲服務商會將該主機拉入黑洞 或者叫拉黑 限制其外網連線，當攻擊停止後，自動解封。由於雲服務商也是向運營商購買黑洞服務，因此受限於運營商的策略，無法手工或人工的解封雲主機。檢測客戶的業務受到異常流量攻擊後，將原始業務系統的流量引流到雲服務商的ddos清洗系統，丟棄掉某些外部ip...
架構 CDN流量清洗。
cdn技術的初衷是提高網際網路使用者對 靜態資源的訪問速度，但是由於分布式多節點的特點，它也能夠對分布式拒絕服務攻擊的流量產生稀釋的效果。cdn，就是在網際網路範圍內廣發設定多個節點作為 快取，並將使用者的訪問請求導向最近的快取節點，以加快訪問速度的一種技術手段。那麼，使用者的訪問請求是如何被導向最...
高防伺服器流量清洗
高防伺服器 清洗 一般主要指的是通過流量清洗，是提供給租借伺服器的使用者，針對發起的dos ddos進犯的監控 告警和防護的一種網路資訊保安管理防禦機制。流量清洗技術服務對使用者的資料分析流量情況進行系統實時的監控，並在監控中及時研究發現一些反常流量 包括ddos在內的攻擊 在不影響業務正常發展的前...