從刷臉洩密到“手機偷聽”，在AI技術應用爆炸式增長的時代，我們的個人資料正在全面遭到“圍剿”；全球網際網路犯罪的體量足以成為世界第三大經濟體，與此同時，賴以保護我們的網絡安全技術和法規，卻總是落後于網絡攻擊技術。
撰文 | 都保傑
最近，上海市警察局關于嚴禁酒店對已出示身份證旅客進行“強制刷臉”核驗的舉措，在網絡上收獲了諸多稱贊。事實上，不隻是上海，包括深圳、杭州、蘇州、西安、三亞等多個城市的酒店業均已開始推行相關政策。
據相關報道，入住酒店不得強制“刷臉”，是公安部去年就下發的通知，隻是目前各地落實進度不一。早在2021年8月通過的《中華人民共和國個人資訊保護法》中，就為保護人臉識别資訊建構了嚴格的事前資訊處理規則和行政、民事乃至刑事責任劃分，其中要求資訊處理者隻有在滿足“特定目的”和“充分必要”并采取嚴格保護措施的情況下才可處理人臉識别資訊；2023年8月8日，國家網信辦釋出的《人臉識别技術應用安全管理規定（試行）（征求意見稿）》中再次進行了相關強調，并對人臉資料提出了最少使用、遵循自願、最小存儲等原則。
2024年全國兩會期間，有代表送出《關于限制旅遊場景過度使用“人臉識别”的提案》，直言酒店自行加裝人臉識别裝置沒有相關法律依據，建議盡快作出排查和裝置管理。将于2024年7月1日起施行的《消費者權益保護法實施條例》中也明确指出，經營者不得過度收集消費者個人資訊，不得采用一次概括授權、預設授權等方式，強制或者變相強制消費者同意收集、使用與經營活動無直接關系的個人資訊。
“刷臉”時代帶來了很多友善，但也讓人們苦“刷臉”久矣，于科技界而言這并非新鮮事。因為以AI為代表的相關技術自誕生起，就伴随着使用者隐私問題。想要持續訓練優化各類AI算法，擷取各個場景下的大資料是基礎，在技術野蠻生長的早期階段，經濟利益和使用者體驗為先，商家對隐私避重就輕或避而不談，使用者對隐私保護又不夠敏感，這間接推進了整個技術産業的快速發展；而當技術發展到成熟階段形成巨大産業規模效應，隐私防護卻成了相對滞後的問題。
法律法規的更新一直在追趕技術發展的步伐，以“刷臉”為代表的計算機視覺技術，潛在的隐私安全隐患也隻是冰山一角而已。
人臉識别的陰影地帶
目前主流的生物識别技術有很多種類，包括人臉、指紋、聲紋、虹膜、步态識别、靜脈識别等，這些技術已被廣泛應用于身份識别，如安防、門禁、考勤、作業系統（電腦、手機和網絡軟體操作）、智能門鎖等硬體、金融支付和公共安全管理（如飛機、高鐵及各類酒店、公共場館）等。
人臉識别作為其中應用廣泛的技術分支之一，在我們現今生活中幾乎無處不在，大到遍布城市各處的監控網絡，小到智能手機、智能手表以及APP，我們每個人已将人臉圖像和身份财産安全密切地綁定在一起，它帶來了諸多友善，也産生了很多風險。近年來，國内外關于人臉識别的公司資料洩露問題頻發，潛在隐患不容小觑。
2019年2月，國内安防上市公司東方網力旗下子公司SenseNet被曝出資料庫遭黑客攻擊，超過250萬條個人資料被洩露；2020年2月，美國人臉識别應用程式Clearview AI發生重大資料洩露事件，更離譜的是，這家公司為600多家執法機構提供面部識别系統，包括警方和其他執法機構，以及銀行系統。類似的資料洩露事件幾乎年年都有發生，甚至一些安全防護能力較強的科技巨頭也不例外。
人臉識别背後，伴随着日益強大的灰色産業鍊，不少人臉資訊和使用者隐私資料在地下市場買賣流通。好一點的用途可能是被賣給資料公司去做AI訓練，分析使用者屬性、生成虛拟身份等；可怕的是資料也會流入不法管道用來實施高科技詐騙，或者通過“照片活化”等手段破解金融用戶端身份認證，冒用身份轉款貸款，甚至被二次加工用于深度僞造視訊通話、謠言傳播和制作色情視訊，對社會安全與信任構成極大威脅。很多遭洩露或者被交易的人臉相關資料，就來自諸如酒店、商超、門店等防護能力欠缺的薄弱環節。
對個人隐私資料問題比較重視的歐美國家早已開始進行相關技術管控。2020 年1月，歐盟《人工智能白皮書》草案禁止未來3至5年在公共場所使用人臉識别技術，之後的2021年，歐盟委員會首次提出了《人工智能法案》，其中将人臉識别等實時遠端生物識别技術從“高風險”級别調整為“被禁止”級别，并在2023年6月以壓倒性投票結果通過了該法案，這部法案被業界視為世界上第一個全面的人工智能法律架構，為很多國家的AI法律法規制定提供了參考系。
AI科技比較領先、監控滲透能力也更強的美國，被認為是世界上最早頒布生物特征隐私保護法律的國家，但目前該國并沒有統一而全面的聯邦 AI法律來規範生物特征資料的收集和使用，不過從2020年開始，有很多州市級法規開始禁用公共場所人臉識别技術，在舊金山、波士頓等地率先得到了落實。2024年3月，拜登政府宣布了一份針對美國聯邦政府機構使用人工智能（AI）的最新規定，以敦促聯邦政府安全、可靠和負責任地使用人工智能，不得侵犯群眾的權利和安全，但這一規定能否在實際管理中起到很好的限制作用還不好說。
此外，明槍易躲暗箭難防，除了那些能明顯感覺到的人臉采集過程，還不乏有一些惡意軟體或應用采取“靜默偷拍”的方式悄無聲息地潛入裝置竊取使用者資訊，一旦使用者打開登入界面，軟體就會立即檢測裝置機型，然後調用前置或後置攝像頭進行靜默拍照，整個過程不會發出提示音與閃光，可以輕松躲過使用者的注意，還會大量采集使用者相冊、短信、通話記錄、通訊錄等資料。
無論是對于個人還是國家，公民視覺身份隐私資料對于社會安全和穩定都已産生了不可估量的影響。出台相關法律法規之外，也有不少AI實驗室和研究團隊在跟進反制技術來保護人臉隐私安全，開發人臉匿名化技術或反人臉識别技術，目前已有的行動包括上海交通大學的IDeudemon方法、卡内基梅隆大學的K-Same和盧布爾雅那大學優化的K-Same-Net等人臉去識别算法，以及Facebook人工智能實驗室開發的video de-identification技術。推動相關技術更好地産業化同樣迫在眉睫。
隐蔽的手機偷聽技術
除了擔心人臉識别風險，日常使用頻率最高的智能手機，很可能才是隐私洩露重災區。許多人都有這樣的經曆：剛和家人聊天商量最近要買啥，打開購物軟體就被精準推薦相關産品，手機APP是有讀心術嗎？還是某些軟體在“偷聽”？
從技術角度看，雖然目前并未發現主流合規APP的偷聽行為，但手機偷聽本身并不是多麼神奇的技術，隻要有電有網，即便手機處于鎖屏或關機狀态，厲害的黑客也能“監聽”使用者講話内容，甚至你關閉了麥克風權限，它也在工作——這在技術上是完全可以實作的。
國内知名白帽子公司KEEN聯合創始人、GeekPwn實驗室安全專家宋宇昊曾在節目采訪中表示，精準推薦的背後并不是語音監聽，主要還是得益于使用者大資料分析和AI所驅動的精準廣告推薦，但如果APP廠商真想要監聽你，從技術上來講沒有任何壁壘。
APP隻要更新一些隐蔽元件設法打開手機的麥克風權限，就可以直接采集上傳音頻，也可以采取更為隐蔽的方式，比如先把采集到的語音資料識别轉換成文本，然後通過提取文本關鍵詞發送給雲端，在雲端分析文本特征結合使用者身份、資訊搜尋浏覽記錄等進行需求畫像，在大資料時代，這些技術目前都相當成熟。
早在2014年的GeekPwn安全極客大賽上，資訊安全研究團隊KeenTeam的技術人員就在現場示範了Android手機在關機狀态下被黑客竊聽的全過程，黑客可以設法讓手機進入黑屏的“假關機”狀态，外表看上去是關機了，但背景運作的監聽程式還在默默竊取短信、聯系人、通話記錄、位置資訊、通話錄音乃至偷拍圖像等操作，并上傳到伺服器。除非把手機電池、SIM卡等拿掉、實體掐斷手機的所有器件功能，否則很多元器件都能以低功耗狀态運作，繼續為黑客提供可乘之機。
現如今的AI技術可識别數十種方言和多國語言，而一個人一天講的話整理成文本，頂多也就寫滿幾張紙，對于智能手機端的算力處理而言毫無壓力，但正規的軟體開發團隊一般不至于冒“監聽使用者”的法律風險、承擔巨大商業損失來進行這種“低級”操作，這些違法投機行為更多可能存在于一些未經安全認證的垃圾軟體，是以有必要提醒大家，不要輕易被誘導下載下傳垃圾軟體和第三方惡意程式到自己的裝置上。
此外，還有很多神奇的監聽方式。2019年，劍橋大學計算機實驗室發表過一項研究，研究人員設計了一種AI算法，通過監聽使用者點選手機螢幕發出的聲音，來還原出使用者在手機上的輸入内容。研究人員利用這一點，對人們點選螢幕不同位置的聲音進行了監聽，分析點選螢幕不同區域時所産生的音波資料，盡管該模型還處于試驗階段，但在實驗中，重複輸入4位密碼20次後，算法的正确識别率就達61%。
2020年，來自浙江大學、加拿大麥吉爾大學、多倫多大學的研究人員曾合作發表一篇論文，其中提到基于深度學習加速度傳感器信号的新型 “側信道” 智能手機偷聽工具，他們利用揚聲器發出的聲音震動信号，将加速器資料轉換為語音信号，實驗資料成功率達到90%。
加速度計等傳感器一般不受作業系統的權限控制限制，任何App均可申請使用，是以利用傳感器擷取語音資料成為一種新穎的偷聽方式，隻是這種技術門檻較高一些。
而更厲害的監聽方式，可能讓人細思恐極。還記得2013年被曝光的“棱鏡門”事件嗎？美國前中情局（CIA）職員斯諾登對外曝出美國國家安全局（NSA）和聯邦調查局（FBI）從2007年就開始實施了一個代号為“棱鏡”的絕密電子監聽計劃，對122名外國上司人目标實施監聽，所用工具同時還能夠侵入微軟、谷歌、蘋果、雅虎等科技巨頭的伺服器，監控目标公民的電子郵件、聊天記錄、視訊及照片等私密資料。
這種國際間諜監聽網絡堪稱現代化資訊網絡攻防戰中的重要工具之一，可能無處不在，而随着人工智能技術的普及，這樣的監聽網絡水準也變得更加厲害。
2021年，一個由以色列公司NSO Group開發的“飛馬（Pegasus）”間諜軟體就曾攻破當時最新版本的iOS和Android手機系統防護，隐蔽于手機中讓手機變成“24小時監控裝置”，黑客可以遠端提取使用者短信、照片和電子郵件，對通話進行錄音，并在使用者不知情的情況下，遠端啟動手機的話筒和攝像頭擷取環境資訊。
據了解，“飛馬”軟體至少在全球50多個國家被用于監視活動，波及人數可能高達5萬人，盡管蘋果公司在當時的回應中表示，上述攻擊方式非常複雜，通常需要數百萬美元成本才能監聽特定目标，但據相關報道，NSO集團曾以數億美元的價格向外出售軟體服務，開發這類邪惡技術還是有利可圖。
而在棱鏡門事件之後，蘋果手機也被很多國家政要部門列為禁用手機，無他，就是很多手機廠商和通信廠商擁有遠端窺探手機和擷取資訊的能力，如果他們與情報間諜機構存在秘密合作，後果不堪設想。
不得不說，我們沒有永遠的安全防護，最多，也就是持續更新的安全防護技術和不斷完善的資訊安全法規、監管機構互相配合，來盡可能提供一份保障而已。對于廣大普通消費者而言，安全風險意識也需要不斷加強，盡量減少個人關鍵資訊在陌生環境下的洩露、強化密碼管理、定期軟體更新、對不明要求和資訊索取保持高度警惕等。
與邪惡力量的對壘無止境
于産業界而言，AI安全行業的發展規模目前還遠遠不夠，從各方報告的預測資料看，當真有道高一尺魔高一丈的意味。
綜合來自Techopedia和IDC的最新報告，預計到2030年，全球人工智能在網絡安全市場的價值将達到1338億美元，全球生成式AI的産業規模将突破1500億美元。但令人擔憂的對比數字是，預計2024年，網絡犯罪将導緻全球網際網路使用者損失總計達9.22萬億美元，這個數字到2028年或将接近14萬億美元，這是什麼概念？如果以一個國家GDP來做衡量，那麼全球網絡犯罪的體量足以成為繼美國和中國之後的世界第三大經濟體。
Cybersecurity Ventures的一份網絡安全市場報告曾預測，2017 年至2021年期間，全球網絡安全産品和服務支出将累計超過1萬億美元。而實際上，随着近年來人工智能産業的爆發式增長和滲透，很多分析師預計這類支出到2025年将遠遠超過每年1萬億美元的水準，而且不少錢可能還花在了錯誤的領域。
如今的網絡安全威脅和隐私入侵早已從針對和損害計算機、網絡和智能手機擴充到人、汽車、鐵路、飛機、電網、工業設施以及任何有信号輸出或電子脈沖的分布式物聯網（IoT）裝置，這些因素都使得網絡安全情況面臨日益龐大且複雜化的局面。
大資料是現如今AI産業和數字化經濟的基石，圍繞資料的創新機會和惡意行為都無法估量。就目前來看，大多數網絡安全預算或法規都是跟随技術發展呈線性或跟進持平狀态，但網絡攻擊的犯罪數量卻呈指數級增長的特點。基于此，安全防護應從頂層設計盡早開始，從多方位、多元度提前預判技術風險，及早給出安全防護、風險規避、人才培育、犯罪打擊等舉措，才能避免陷入“槍戰時帶刀上陣”的窘境。
參考文獻
[1]https://www.secrss.com/articles/25405
[2]https://zhuanlan.zhihu.com/p/150528851https://www.mittrchina.com/news/detail/4864https://www.jiemian.com/article/3090493.html
[3]http://cjc.ict.ac.cn/online/bfpub/pcl-2023413151919.pdf
[4]https://www.shanghai.gov.cn/nw4411/20240423/42496d66bfe0461e8740f8431906edf8.html
[5]https://www.spp.gov.cn/spp/llyj/202109/t20210908_528821.shtml
[6]https://zh.wikipedia.org/zh-cn/%E9%A3%9B%E9%A6%AC_(%E9%96%93%E8%AB%9C%E8%BB%9F%E4%BB%B6)
[7]https://cybersecurityventures.com/hackerpocalypse-cybercrime-report-2016/?ref=hackernoon.com
[8]https://www.techopedia.com/ai-names-biggest-cybersecurity-threats?ref=hackernoon.com
[9]https://www.idc.com/getdoc.jsp?containerId=prCHC51997124
[10]https://cybersecurityventures.com/cybersecurity-market-report/
本文經授權轉載自微信公衆号“科學中國”。
特 别 提 示
1. 進入『返樸』微信公衆号底部菜單“精品專欄“，可查閱不同主題系列科普文章。
2. 『返樸』提供按月檢索文章功能。關注公衆号，回複四位數組成的年份+月份，如“1903”，可擷取2019年3月的文章索引，以此類推。