深度合成還是深度僞造？“元宇宙”治理“攻防博弈”序幕拉開

作為人工智能領域的新實踐，近年來，利用深度學習、虛拟現實等生成合成類算法制作圖像、音頻、視訊、虛拟場景等資訊的深度合成技術，已在多個領域大量應用。伴随着不斷湧現的場景需求，深度合成内容數量和關注度激增，但另一方面，惡意使用該技術生成的音視訊，也存在巨大的安全隐患。

合成視訊數量增長超10倍

随着“深度合成”技術逐漸成熟并進入商業化應用階段，其巨大的經濟價值已經逐漸展現。根據一項由清華大學人工智能研究院、北京瑞萊智慧科技、國家工業資訊安全發展研究中心等機關周一聯合釋出的《深度合成十大趨勢報告（2022）》（以下簡稱“《報告》”），在國内外主流音視訊網站、社交媒體平台上，2021年新釋出的深度合成視訊的數量較2017年增長超過10倍，點贊數已超過3億。

《報告》稱，深度合成在影視制作、廣告營銷、社交娛樂等領域發展出多元化的商業應用，例如AI合成主播、虛拟偶像、修複曆史老照片、影視劇本地化配音、“數字複活”等；而“元宇宙”等新商業思維的提出，為深度合成提供了更廣闊的應用場景。

“比如虛拟人、數字人即是深度合成的主要應用，也是元宇宙的重要組成部分。”阿裡巴巴安全感覺與認知智能部負責人薛輝表示。清華大學新聞與傳播學院常務副院長陳昌鳳也表示：“深度合成将重新定義虛拟數字化空間，從傳播社會學意義上看，一個新的人類生存場景将以深度合成技術為基石展開。”

在以元宇宙為代表的沉浸式共享虛拟世界中，借助在AR、VR和3D技術，虛拟和現實之間的界限正在逐漸模糊，真假難辨。

瑞萊智慧CEO田天告訴第一财經記者，技術不斷成熟是深度合成内容迎來爆發式增長的重要原因。“研究論文的持續增加、開源技術工具和大量代表性方法的湧現，令深度合成内容的效果更加逼真、制作也更加高效，尤其是生成對抗網絡等算法的出現，讓合成内容達到了真假難辨的程度。”他表示。

圖形計算領域的頂尖技術公司英偉達去年就憑借高超的深度合成技術，合成了一個黃仁勳的數字孿生版本，差點騙過了全世界的眼睛。“數字黃仁勳”身穿的皮夾克，他所在的廚房，都是計算機科學家們通過3D仿真技術模拟出來的，展現了數字技術強大的創造力和可能性。

“好玩”背後藏風險

不過在深度合成激發創新内容的同時，也帶來了新的威脅。《報告》指出：“随着技術逐漸平民化，不法分子可輕易僞造音頻、視訊，實施誣陷、诽謗、詐騙、勒索等違法行為，擾亂社會秩序。”

2021年10月，安徽合肥警方曾查獲一起非法利用深度合成技術僞造手機使用者人臉動态視訊破解身份核驗，為黑灰産業提供注冊虛拟手機卡等技術支撐的案件。近年來，類似事件開始更多的進入公衆視野。

浙江大學網絡空間安全學院院長任奎表示：“目前對深度合成的檢測主要依賴于人工智能模型以及訓練資料的完備性，包括檢測器泛用性相對較低、公開資料集适用性、資料敏感等挑戰仍然存在。”

自從2017年Deepfake（深度僞造）出現後，AI技術在造假方面的能力引起世人警覺。算法的突飛猛進不僅僅可以做到AI換臉，甚至能自動生成文本、人工語音、圖像等各種數字内容。此前，國家網際網路資訊辦公室、公安部指導各地網信部門、公安機關加強對語音社交軟體和涉“深度僞造”技術的網際網路新技術新應用安全評估工作，并依法約談相關企業。

目前學術界和産業界已對反“深度僞造”檢測投入了大量研究，Meta、谷歌、微軟等科技巨頭均推出了深度合成視訊認證的方法或産品。在國内，清華大學、中科大、瑞萊智慧科技、百度、科大訊飛等高校和企業在深度僞造内容檢測方面取得顯著成果。

清華大學人工智能研究院基礎理論研究中心主任朱軍認為，深度合成檢測面臨持續的攻防和博弈，未來還需融合多模态内容的驗證分析、基于數字水印的溯源技術等多方面能力，實作精準識别。

田天也對第一财經記者表示：“新型僞造方法層出不窮、網絡傳播環境的日趨複雜，加上基于檢測算法存在漏洞缺陷等，反深僞檢測技術面臨強對抗性，需要持續更新與疊代。”

探索深度合成治理路徑

除了發展深度僞造内容檢測技術以外，近幾年來，針對深度合成技術惡意使用所帶來的挑戰，世界各國紛紛出台相關法律法規，探索深度合成的治理路徑。國際方面，美國從聯邦和州層面進行專門立法，歐盟将深度合成納入《通用資料保護條例（GDPR）》等現有法律架構規制。

2022年1月28日，國家網信辦最新公布了《網際網路資訊服務深度合成管理規定（征求意見稿）》（簡稱《深度合成征求意見稿》），對作為元宇宙基石的深度合成技術做出了一系列較為明确的規定和指引。

按照定義，AI語音，NFT生成藝術、虛拟演唱會、全息人像投影、虛拟人數字人、AR購物等元宇宙的重要組成部分都屬于深度合成技術的具體應用，均在《深度合成征求意見稿》的規制範圍内，這項規則将對深度合成乃至人工智能行業的監管産生深遠影響，尤其是針對“深度僞造”技術的防範。

中國工程院院士邬賀铨認為，深度合成的治理主要有兩個原則，一是要持續發展技術，不能“一刀切”地禁止，避免阻礙正向應用與創新；二是針對衍生出的安全問題要從源頭上解決，利用技術創新、技術對抗等方式，持續提升和疊代檢測技術的能力。

中國信通院雲大所人工智能部副主任石霖認為，有必要對“深度僞造”和深度合成進行明确區分，不能用“深度僞造”這一“污名化”詞彙來概括“深度合成”技術。“深度合成技術本身沒有善惡之分，當濫用該技術，跨越道德和法律的邊界時，才會出現深度僞造行為。”石霖表示。

小米集團副總裁、小米安全與隐私委員會主席崔寶秋對第一财經記者表示：“技術監管是一場永恒的攻防對抗博弈。深度合成技術的服務方在提供服務的同時，會産生多方面的風險，除了深度僞造的風險外，還包括自動生成内容文本、圖像或者視訊帶來的版權和著作權的侵權風險，資訊安全和隐私洩漏風險以及敏感内容的風險。”

崔寶秋建議，未來出台的相關法規中，應該強制要求服務提供方對于哪些内容是深度合成的進行标注，對于技術提供方而言，則應從底層技術開始推進相關标準的建立，在算法上保證計算模型的公平性。