全球首例！移動材料上實作動态對抗，這件T恤讓你在AI眼皮下隐身

當迎面走來一位穿着白T恤的男性和一位穿着黑T恤的女性時，如果我們從AI攝像頭中觀察，會驚訝地發現畫面中隻有女性的身影。

别擔心，這并不是内部程式的性别歧視，問題出在衣服上。

當仔細觀察這位男性穿的白T，第一印象是怪醜怪醜的，再看看，T恤上印有千變萬化的色塊，不過和普通T恤也沒什麼大的差别。

這就是你輕敵的地方了。

别看這件T恤設計得不怎麼入眼，來頭卻不小，這是由IBM、MIT和東北大學的研究人員共同設計的，當你穿上這件T恤的時候，在AI攝像頭看來，你就能神奇地和背景融為一體，就這麼消失在了攝像頭中。

破案了！原來《貓和老鼠》中，Jerry的那瓶隐身墨水就是被他們“偷”走的。

由于新冠疫情，全球各地都加大了AI攝像頭的部署力度，人們的日常生活處于無時無刻被監視和追蹤的狀态，在這樣的大趨勢下，如何更好地保護自己的面部資訊，這件T恤就是答案，畢竟，當你整個身體都“消失”在攝像頭中，又何來面部資訊一說呢？

東北大學電氣與計算機工程助理教授Shelley Lin表示：“深層神經網絡非常強大，但也十分脆弱。當穿上T恤，深層神經網絡很可能無法在圖像中識别你。”

說了這麼多，來看看這件T恤的“賣家秀”：

emmm文摘菌想說，道理我都懂，但是能把T恤設計得稍微再好看一些嗎？

首個實作動态對抗攻擊的竟然是這件T恤？！

說到對抗模型的建立，很多人可能對此不屑一顧，這不很早就有了嗎？

那我們就先來看看目前的部分戰績：

2016年，美國卡内基梅隆大學和北卡羅來納州教堂山分校的研究人員發明了一種眼鏡，該眼鏡能“迷惑”住面部識别技術，進而将佩戴者分類錯誤；

2017年10月，加利福尼亞大學伯克利分校計算機科學博士生Dan Hendrycks就“成功”地讓AI系統将“停止”路辨別别為了“限速45”路标。

的确，這些對抗模型效果很好，近兩年的發展似乎也還挺順利。

但是，文摘菌要提醒的是，大家可能還混淆了一個概念，上述兩例都是在靜态材料中生成的對抗性攻擊，如果想要在視訊上進行動态對抗，困難指數就得加倍。比如，在設計這件T恤的時候，研究人員就必須考慮，T恤在穿戴者移動時會起皺和折痕，否則就會直接影響到對抗效果。

卡利亞裡大學助理教授、第一個對抗性示例的建立者Battista Biggio說：“對于實體攻擊，真正的挑戰是在整個視訊持續時間内保持未被發現的狀态。”Biggio開發的首個對抗性系統成功地欺騙了垃圾郵件檢測程式，“當檢測在每一幀中進行時，要始終保持未被檢測到要困難得多”。

為了實作動态對抗，研究人員使用了Lin所說的“變壓器（transformer）”，這是一種測量T恤運動方式随後将其映射到設計中的方法。

通過專門研究兩個通常用于訓練目的的對象識别神經網絡YOLOv2和Faster R-CNN，團隊發現，增加像素噪聲會使AI混淆身體區域，進而使穿上T恤的人在AI攝像頭下“隐身”。

随後，研究人員記錄了一個穿着棋盤格圖案T恤的人走路，跟蹤棋盤上每個方塊的角的變化，進而準确地繪制出了人移動時T恤的起皺規律。當整個模式建立起來之後，針對YOLOv2的對抗能力從27％提高到了63％，針對Faster R-CNN的對抗能力從11％提高到52％。

基于此，全球首個在移動材料上實作動态對抗的設計就建立成功了！

人們能借此重獲隐私主權嗎？

這種對抗攻擊的原理，其實和深度神經網絡的訓練是同宗同源的。

我們都知道，深度神經網絡通常用于對圖像、聲音或者其他輸入進行識别和分類，要實作精确識别，研究人員就要用上百萬的示例訓練這些算法，直到系統最終能辨識個人的相貌和聲音等。

同時，反過來說，既然我們知道了如何訓練特定網絡，那我們也就知道了如何反向訓練特性網絡，以生成相應的對抗式識别模型，比如讓系統将熊貓識别為長臂猿。

當我們深入到識别過程中，神經網絡會在需要識别的人物或事物周圍繪制一個“邊界框”，随後再為該對象配置設定标簽。也就是說，隻要能找到神經網絡的邊界點——在AI看來某個物體是否為該物體的門檻值，就足以建立可混淆AI分類和标簽系統的設計。

之前，Lin和同僚在研究一種用深層神經網絡訓練的物體檢測器，利用這種檢測器能快速并準确地标記視訊中的“人”、“馬”或“傘”等，但他們想借此發現在深度神經網絡中存在的漏洞，“未來，希望我們能夠解決這些問題，進而不會欺騙深度學習系統”。

這件T恤就是成果之一。

對于這件能保護人們資訊安全的T恤，文摘菌已經瘋狂想要入手了。但Lin對此表示，在現實中不太可能看到這些T恤，她解釋道：“我們仍然很難使它在現實世界中正常使用，前提條件是，我們必須知道檢測算法的所有細節。是以這件T恤并不完美，這裡那裡可能都存在問題。”

在總結AI屢屢失利的原因時，谷歌AI工程師François Chollet表示，“深度神經網絡十分脆弱，這無法從根本上解決”。

不過，克服這些缺陷的方法也還是存在的，研究人員需要額外增強模式比對，例如，讓AI自己探索世界，編寫自己的代碼并保留記憶。一些專家認為，這類系統将成為未來十年AI研究不可忽視的一部分。

這件T恤的開發也标志着AI識别面臨着越來越強的危機感，人們或許能在資訊隐私方面逐漸重新獲得主權。