一段視訊、一段語音未必是真人拍攝或者錄制。在你不知道的手機App背景、支付界面、門禁閘機，或許有人正在盜刷你的臉……去年以來，多地發生“變臉”詐騙案。
“新華視點”記者調查發現，随着深度合成技術迅猛發展、落地場景激增，一些不法分子趁機牟利。音頻、視訊等合成技術濫用，對人臉、聲紋、指紋等個人敏感資訊保護形成挑戰。
合成動态視訊一個2至10元，竟能注冊手機卡、支付賬戶
近日，陳先生來到浙江省溫州市警察局瓯海分局仙岩派出所報案，稱自己被“好友”騙了近五萬元。經過警方核實，騙子用了AI換臉技術，利用陳先生好友阿誠社交平台上先前釋出的視訊，截取了面部視訊畫面并進行了“換臉”，進而對陳先生進行了詐騙。
2021年4月，安徽省合肥市警方在公安部“淨網2021”專項行動中打掉一個幫派，該團夥利用人工智能技術僞造他人人臉動态視訊，為黑灰産業鍊提供注冊手機卡等技術支撐。
在警方抓捕現場，幾名犯罪嫌疑人正用電腦将一張張靜态照片制作為人臉動态視訊。模拟制作出來的動态人物不僅能做點頭、搖頭等動作，還可完成眨眼、張嘴、皺眉等豐富表情，效果極為逼真。
在嫌疑人的電腦裡，警方發現了十幾個G的公民人臉資料，人臉照片和身份證照片分門别類存放在一個個檔案夾裡。“身份證正反面照片、手持身份證照片、自拍照等，被稱為一套。”民警介紹，成套照片被稱為“料”，出售照片的人被稱為“料商”，這些“料”在網上已轉手多次，而“料”的主人卻毫不知情。
犯罪嫌疑人馬某交代，由于制作簡單，一個視訊價格僅為2至10元，“客戶”往往是成百上千購買，牟利空間巨大。
近年來，類似案件在浙江、江蘇、河南等多地發生。浙江衢州中級人民法院的一份刑事裁定書披露：張某、餘某等人運用技術手段騙過支付寶人臉識别認證，并使用公民個人資訊注冊支付寶賬戶，非法獲利數萬元。
這些案件的作案流程頗為雷同：不法分子非法擷取他人照片或有償收購他人聲音等“物料”，僅需少量音視訊樣本資料，便可合成媲美真人的僞造音視訊，用來實施精準詐騙，侵害他人人身和财産安全，或銷售、惡意傳播技術換臉不雅視訊等，造成肖像權人名譽受損。
網絡“叫賣”合成軟體教程，風險背後存技術漏洞、治理短闆
據合肥市警察局包河分局網安大隊民警王祥瑞介紹，前述案件中8名犯罪嫌疑人多為社會閑散人員，有的連高中都沒有讀完。他們按照網購教程下載下傳軟體，花幾個月便“自學成才”。
記者在網上聯系到一位售賣相關教程的賣家。賣家介紹，全套軟體及教程售價有400元、800元兩檔，800元的為高階版本，“過人臉成功率超高”。記者在示範視訊中看到，照片上傳至軟體後，标注出五官位置，調整腳本參數，一張臉便動了起來。“五官參數随教程送上，照抄即可。”據介紹，這些僞造視訊不僅通過率高，人工稽核都難辨真假。
“目前公衆對照片等靜态資訊易被篡改已有所警惕，但對視訊、聲音等動态資訊内容仍持有較高信任度。”清華大學人工智能研究院基礎理論研究中心主任朱軍說，深度合成技術飛速演進，讓“眼見不再為實”，破解身份核驗的難度會越來越低、耗時将越來越短。
專家擔心，盡管針對深度合成技術的識别技術不斷疊代、檢測手段持續增強，但依然沒能跑赢“僞造”技術更新的速度。浙江大學網絡空間安全學院院長任奎說，随着合成技術應用門檻的進一步降低，合成内容已模糊真實與僞造的邊界。
北京智源人工智能研究院安全創新中心執行主任田天認為，新型僞造方法層出不窮，網絡傳播環境日趨複雜，檢測算法存在漏洞缺陷等，反深僞檢測難度越來越大。
法律規定相對滞後，也給不法分子留下可乘之機。中倫律師事務所合夥人陳際紅說，目前法律規定，禁止利用資訊技術手段僞造等方式侵害他人的肖像權，但技術如何使用算合理使用，哪些情形下應禁止使用等，沒有具體規定；收集或收購個人聲紋、照片，使用人臉、指紋、DNA、虹膜等個人生物資訊等行為，在哪些範圍内構成犯罪、将面臨怎樣的懲罰，需要司法裁判進一步給出明确指引。
規制合成技術濫用，别再讓公衆為“臉面”擔憂
保護人臉、指紋、聲紋等敏感資訊，不再擔憂資訊“裸奔”損害個人隐私、财産、名譽等，是公衆的共同期待。
大陸首個國家層面的科技倫理治理指導性檔案《關于加強科技倫理治理的意見》近日印發，凸顯技術倫理治理的重要性緊迫性。在今年的最高法工作報告中，包括人臉安全在内的個人資訊安全等多次被提及。
陳際紅表示，打擊“變臉”詐騙犯罪，應從技術的合法使用邊界、技術的安全評估程式、濫用技術的法律規制等方面予以規範，提高技術濫用的違法成本。
中國工程院院士、資訊技術專家邬賀铨提出，針對深度合成技術濫用現象，應以技術規制技術，利用技術創新、技術對抗等方式，提升和疊代檢測技術的能力。
技術規制之外，針對技術濫用暴露的風險治理應當體系化、完善化。“要建構資料集品質規範、根據應用場景對相關技術進行風險分級分類管理，明确設計開發機關、運維機關、資料提供方的責任。”國家工業資訊安全發展研究中心副總工程師邱惠君說。
專家提醒，針對花樣翻新的“變臉”詐騙，公衆要提高防範意識，不輕易提供人臉、指紋等個人生物資訊給他人，不過度公開或分享動圖、視訊等；網絡轉賬前要通過電話、視訊等多種溝通管道核驗對方身份。一旦發現風險，及時報警求助。