2020 年，盡管面臨疫情帶來經濟與社會層面的不确定性，人工智能技術仍在加速發展。今年 Gartner 釋出的 AI 技術成熟度曲線裡增加了包括生成型 AI、複合型 AI、負責型 AI、嵌入式 AI 和人工智能增強設計等在内的多個新技術類别。
其中，生成型 AI 首次出現在「成熟度曲線」中，這是常用于建立「深度僞造」視訊和數字内容的技術。有些心懷不軌的人會試圖利用生成性 AI 建立「深度僞造」的内容。這側面反映，即使是新技術，也會帶來相應的麻煩和問題。
01 人臉識别黑産背後的資訊洩露
人臉識别是應用領域最廣泛及成熟的一項技術。随着技術的大範圍推廣，背後的問題也随之而來。去年，僅 8 元兜售 3 萬張人臉照片被傳得沸沸揚揚。讓人細思極恐的是，你并不知道誰在收集人臉，也不知道這些人臉圖檔會被用作何用途。
機器之心去年卧底人臉認證群，調查背後的産業鍊狀況。黑灰産從業者将高清正面大頭照、手持身份證照稱之為「料子」。基于「料子」，采用一套特定的過人臉認證技術，通常是面部動畫制作軟硬體的組合，以此通過支付、社交及生活服務類 APP 的人臉認證。
近幾年人臉識别認證應用在網際網路市場得到大規模的應用與推廣，從中牟利的黑灰産也應運而生。在該産業鍊上，上遊的需求人群利用實名認證賬戶變現（薅羊毛）、推廣、倒賣實名賬戶；中遊的技術服務商以「代人臉識别認證」謀生，當中有不少「傳幫帶」的師徒制工作室或者個體戶，提供過人臉認證服務及軟體；下遊則是各類身份證、人臉照片等資訊的提供方。
「隻要技術好（代人臉認證），投入成本低，利潤可觀。行情好的時候，一個月賺 3 萬不成問題。」一位黑灰産從業者曾向機器之心表示，他靠傳授過人臉認證技術謀生，一套過 APP 人臉認證技術最低可賣至 800 元，而且包教會。當中，所需要的身份證正反面及半身照成本極低，通常不超過 5 元，而過一次 APP 人臉認證至少需要 40 元。除去成本價及忽略操作費不計，一單至少掙 35 元。對于一些難認證的 APP，牟利空間更大。
人臉識别技術已在多行業、多終端進行應用，由于監管及隐私層面缺乏有力監管，出現不少詐騙事件。今年，據南方都市報報道，廣西南甯有十幾位售房者因為「刷臉賣房」被騙了超千萬元。一位房産中介以房屋查檔為由，對售房者進行了人臉識别認證。随後，售房者紛紛發現自己的房子已經被買家抵押給了第三方。另據南都記者公開資料查詢，此前全國已有多起利用人臉識别進行詐騙的案子。
通過該事，反映出以人臉等為代表的個人生物識别資訊作為高度敏感的使用者個人資訊，存在一定的隐私洩露和資訊安全風險。據 Juniper Research 研究機構最新研究報告《移動支付認證：2019-2024 年生物識别，監管和預測》發現，面部識别硬體（例如 iPhone 上的 Face ID）将成為智能手機生物識别硬體中增長最快的元件，出貨量将在 2024 年達到 8 億多，而 2019 年估計為 9600 萬個。
人臉識别技術無處不在。随着深度學習技術與生物識别技術的融合，以深度僞造為主的人臉識别技術也帶來不少争議。以 AI 換臉為例，Al 換臉顧名思義就是在圖像或視訊中把一張臉替換成另一張臉。
各類「換臉」技術制造了大量的虛假視訊，并形成相應的黑色産業鍊。該産業鍊條是，上遊提供軟體及教程；中遊提供視訊及照片定制；下遊售賣成品視訊，以此大大降低行業技術門檻與造假成本。
除深度僞造技術外，還有「反僞造」技術，兩者正處于攻防拉鋸狀态。除了資訊隐私洩露，這項技術還帶來其他問題，最大的難題在于，針對深度僞造生物識别資訊的判定尚無成熟的判定手段與依據。
02 「失控」的智能裝置
随着物聯網、車聯網、5G 等技術的發展，身邊的一切裝置正在變得智能化，但也暗藏風險。尤其在遠端辦公流行的節點下，一些安全性較差的智能家居産品成為了黑客攻擊的重點對象。
最近，來自劍橋大學的研究人員發現，任何可以接收語音指令的智能裝置，例如智能音箱或手機，僅通過聆聽就可以推斷附近智能手機輸入的大量資訊，包括密碼等。
研究表明，音頻采集裝置所帶來的隐私威脅超出監聽私密談話，實體鍵盤及手機觸摸屏鍵盤上輸入的資訊同樣無法逃脫其監控。研究者通過驗證表明，所謂的黑客攻擊者可以從位于半米外的語音助手收集的錄音中提取 PIN 碼（SIM 卡的個人識别密碼）和文本消息。
盡管物聯網技術給人們的生活帶來便利，但不意味着無限安全與可靠。在通信技術領域也暴露了這方面的風險。在 GeekPwn2020 國際安全極客大賽上，騰訊安全玄武實驗室進階研究員李冠成、戴戈就示範了一項 5G 安全研究發現。通過 5G 通信協定的設計，黑客可「劫持」同一基站覆寫下的任意一台手機的 TCP 通訊，包括各類短信收發、APP 和服務端的通訊。
這項研究意味着，黑客可以利用 5G 通信協定的 BUG 實施多種形式的攻擊，例如給受害者發送已經植入木馬的連結，該連結一旦被點選，就可以竊取受害者的銀行卡資訊，否則不然，也有可能僞造受害者的手機号向家人發短信，提出轉賬或是其他要求。
随着通信技術的更新疊代，整體上看 5G 在安全性上有了更大的保障，但不意味着這項技術就有更大的安全性，也有可能會帶來除技術本身不成熟外的其他原生安全問題。
當所有的東西都發展為智能體，對隐私背後的傷害也更大。車聯網下的自動駕駛汽車經常發生當機、資訊洩露事件就是當中最為典型的案例。
今年 5 月，國内特斯拉車主發微網誌稱，特斯拉 App 大面積當機，導緻手機無法與車相連，無法擷取車輛資訊。
自特斯拉出産以來，很多人把它形容為一輛帶輪子的安卓手機，可以用移動應用來解鎖和鎖定汽車。至少，在車聯網時代，網絡的便捷性讓車輛智能化成為可能。一旦智能聯網汽車當中的重要組成，例如車載作業系統、雲平台受到網絡攻擊，輕者會造成資料和資訊洩露，重者會導緻車輛失控。
類似的「失控」經常被用來當作安全演練的「教材」。在 2020 GeekPwn 大會上，就有這樣一場人為制造的特斯拉 Model 3 撞車事故。一位安全研究員制作了小巧的雷達幹擾裝備，可以擾亂 Model 3 毫米波雷達的探測，讓車輛系統無法準确進行刹停，進而制造了一場人為車禍。
在現實生活中，這類人造交通事故不多，但也揭示了自動駕駛車輛存在的安全漏洞。随着車聯網建設的成熟與具備自動駕駛車輛的增多，這類安全漏洞帶來的風險會越來越大。
03 易攻難守的企業資料
随着企業數字化轉型程序加速，資料作為重要元素，被視為企業的命脈。即便如此，随着黑客技術的不斷侵入，企業資料被盜事件并不鮮見。
今年年初，國内一家 AI 醫療影像公司在疫情間所研發的新冠資料被黑客竊取。他們過去兩個月所研發的 AI 輔助系統和該公司所積累的新冠訓練資料，被黑客以 4 比特币的價格公開出售。當時這家公司回應稱，黑客所擷取的資料不涉及源代碼和客戶資料。盡管損失有限，但也敲醒警鐘。
新冠肺炎疫情期間，不少黑客組織以「新冠肺炎」為誘導話題，對醫療機構、醫護人員的電腦發起網絡攻擊，進而達到勒索、竊取資訊等目的。
據資料顯示，2020 年上半年，安全防護能力較弱的市政、醫療、制造行業成為網絡攻擊的重災區，而新冠疫情期間對醫療結構的攻擊更是危害巨大，包括歐洲最大的私人醫院營運商 Fresenlus 都曾遭受勒索軟體攻擊。
根據 CyberMDX 的研究，由于種種原因，大多數醫院都不會修補超過 40% 的易受攻擊裝置。80% 的醫療裝置制造商和醫療機構表示裝置非常難以保護，因為缺乏安全開發的知識和教育訓練，以及相關的産品資訊安全測試程式。
04 結語 伴随着網際網路科學技術的發展，雖然 5G、AI、隐私計算、智能算法、物聯網、大資料等技術應用已經深入人們的生活與生産活動，但是我們也需要透過這些熱議的社會話題重新正視 AI 時代新技術與新問題共存的問題。
即便新技術帶來新問題，也不能就此放棄不使用，甚至不發展新技術。在科技發展的各個階段，都會衍生不同問題，而問題也會倒逼社會發展。樂觀來看，AI 換臉、人臉識别黑産的出現增加了人們對于安全與隐私的讨論，促進立法探索；智能互聯車輛故障頻出，倒逼自動駕駛技術變革。
AI 應用的普及，加劇了隐私保護、資料安全、倫理道德等安全和道德風險，但是現在各類網絡安全産品和解決方案不斷湧現，專注解決網絡安全問題的安全廠商也發力。
在最近騰訊安全戰略研究部攜手騰訊安全聯合實驗室共同釋出的《産業網際網路安全十大趨勢（2021）》，圍繞法律法規、産業發展态勢、重點安全風險等多個次元，探讨了 2021 年産業安全與安全産業的發展特性。
在當下行業數字化轉型的節點，大量的資料在彙集，如何保障安全，成為産業數字化的重要議題。安全作為産業網際網路的基座，本身也處于高速變化和演進的階段。
一是政策法規體系逐漸完善，《民法典》、《資料安全法（草案）》、《個人資訊保護法（草案）》等陸續出台，為安全建設明确方向。
二是安全場景日益增多，供應鍊協同安全、5G 應用安全、黑灰産生态化等成為企業數字化過程中的重要挑戰。
三是技術和理念創新活躍，隐私計算、零信任架構、人工智能、雲原生安全等正加速在安全場景落地應用，為企業的安全防護體系建設提供支撐。
尤其在産業網際網路時代，企業數字業務上雲将成常态。但同時雲上安全威脅規模快速擴大，黑灰産利用公有雲平台發起攻擊更具威脅。
雲原生安全一方面将建構安全服務全生命周期防護，在業務搭建之初夯實安全底座，從安全工具、産品到服務體系化，伴生業務發展全過程。
另一方面雲上安全産品向子產品化、靈活化和彈性化演進，在應對高強度攻擊的同時也在平穩期釋放多餘計算能力，使得企業應用成本降低，提升整體安全水準，成為兼顧成本、效率和安全的「最優解」。
在産業數字化驅動下，智慧醫療、工業網際網路、車聯網等新應用、新場景不斷湧現。這些傳統行業數字業務的安全性将直接關系到群眾生命财産安全和國家資訊安全。對于企業而言，需要在業務建構初期考慮更多的安全隐私，規避風險，以降低解決安全問題的成本。
企業本身除了依托雲原生安全外，還需要建立頂層安全思維，對于安全的認知不僅需要企業自身的努力，還需要将其擴大到社會安全認知層面，加強普通使用者對于網絡威脅、個人資料安全、隐私等的重視。
加速發展的新技術既代表新的力量，同時也給人們帶來各種各樣的新問題。新問題又需要新技術去解決。看似貌合神離，互相對抗，實際上是一項重大考驗。
© THE END
轉載請聯系本公衆号獲得授權
投稿或尋求報道：[email protected]