智能安全攻防更新！阿裡建AI智能防禦系統保障安全

大資料、計算和算法是人工智能的三大要素，如何保障資料安全和資料的清潔度，則成為提升智能産品安全性的關鍵因素。近日，BAT等網際網路企業齊聚深圳，在2018 全球人工智能與機器人峰會（CCF-GAIR）上圍繞智能安全等議題，進行了深入探讨。

6月30日，阿裡巴巴安全部資深總監路全在2018 全球人工智能與機器人峰會（CCF-GAIR）上指出， 阿裡已建成流量清洗智能防禦系統治理“污染資料”問題。

作為受邀嘉賓，阿裡巴巴安全部資深總監路全在參會時指出，人工智能帶來更多可能的同時，也帶來了諸多安全風險，尤其黑灰産正在使用“資料污染”、“資料中毒”等新型複雜化手段，與人工智能行業的正向發展進行激烈對抗。

他以人工智能汽車的安全問題舉例稱，除了“利用智能算法本身缺陷改變交通标志”或以“傳統的黑客入侵滲透控制其他平民汽車”等方式，可以控制攻擊智能汽車外，通過向智能裝置雲端或系統輸入污染、中毒資料，同樣可以用來攻擊人工智能系統及裝置。

其攻擊原理是，人工智能都基于大資料算法來實作精準運算，最終産生實際行為，正是利用這一特性，對抗方可以輸入一些受污染的資料“喂養”、“訓練”人工智能系統，使其偏離正常的運算目标，最終産生失焦的運算行為，進而引發系列安全風險。

“黑灰産對抗方會用大量低級爬蟲或低級流量，來試圖爬取網際網路公司的資料資訊，他們明知低級爬蟲很容易被殺掉，但仍會不惜成本投入。”路全解釋稱，這些低級爬蟲樣本産生的“污染資料”會影響和扭曲算法模型，最終他們還會利用少量摻雜其中的進階爬蟲進行攻擊。

“資料中毒的目的就是讓機器學習模型不能覆寫正确的目标，進而使其防護失效。”路全表示，阿裡安全已經建立起了雙層防護機制，專門防護系統安全和防護資料污染。

“所有網際網路公司必須警惕‘資料污染’這種攻擊手段，因為由黑灰産發起的機器流量是資料污染的源頭，為此阿裡巴巴除了在傳統網絡安全上建立安全防禦體系防禦黑客入侵和滲透，阿裡安全還建立了全新的流量清洗智能防禦系統。”路全介紹，阿裡巴巴建立的機器流量防控體系主要由三部分組成，其中包括相當于“眼睛”的檢測子產品；以及等同“大腦”的分類模型，還有輔助系統。

基于阿裡巴巴擁有豐富的業态，阿裡安全實驗室在機器算法方面已有深入研究，由達摩院領銜的各大實驗室也已研發出各種優秀算法，并應用于阿裡生态的搜尋、廣告、IoT、客服等多個業務線。

“如果把AI視作一個正在茁壯成長的小孩，那麼髒資料或資料污染就是病毒有害物，AI算法和機器學習是根據大量資料來進行的，如果資料被污染，就像小孩吃了不健康的東西。”路全形象地比喻說，“要像呵護孩子一樣，去呵護我們的AI系統。”