作為人工智能領域的新實踐，近年來，利用深度學習、虛拟現實等生成合成類算法制作圖像、音頻、視訊、虛拟場景等資訊的深度合成技術，已在多個領域大量應用，伴随着不斷湧現的使用需求，深度合成内容數量和關注度呈現快速增長态勢。但另一方面，惡意使用該技術生成的音視訊，也顯現出了巨大的破壞力，給個人、企業造成了聲譽損害和财産損失，也對社會、國家安全造成威脅。
近日，清華大學人工智能研究院、北京瑞萊智慧科技有限公司、清華大學智媒研究中心、國家工業資訊安全發展研究中心、北京市大資料中心聯合釋出《深度合成十大趨勢報告（2022）》（以下簡稱“《報告》”），從技術研究、領域應用、發展趨勢等多個方面，全面深入地介紹和研判深度合成技術及應用帶來的機遇與挑戰，并就其發展與治理給出切實可行的建議和措施。
“在人類的數千年文明史中，科學技術的革新已經多次帶來跨時代的社會變革。從遠古時代的火到現代社會的電，每一次技術變革在造福人類的同時，也不可避免地帶來了安全風險，”中國科學院院士、清華大學人工智能研究院創始院長張钹在《深度合成十大趨勢報告（2022）》的開篇寫道，“與其他技術不同，由于人工智能的安全性問題主要來源于算 法本身的不安全，它更容易被誤用和濫用。以深度合成技術為例，不法分子可以利用它給社會帶來巨大的威脅。”
多個領域落地應用，深度合成内容迎爆發式增長
深度合成的圖像、視訊、音頻、文本等内容，例如熱門影視劇片段、話題明星的換臉視訊等等，具有極強的娛樂性與傳播性，伴随着技術的發展成熟，越來越多的創作者在網際網路上釋出和分享深度合成内容，數量逐年高速增長。
資料說明:在10家國内外平台中(愛奇藝、騰訊視訊、優酷、哔哩哔哩、抖音、快手、微網誌、YouTube、Twitter、 TikTok)，以“Deepfakes”等10個中英文關鍵詞進行檢索，并通過URL去重後，統計出資料結果
以視訊為例，《報告》顯示，在國内外主流音視訊網站、社交媒體平台上，2021年新釋出的深度合成視訊的數量較2017年已增長10倍以上。此外，深度合成内容關注度也呈指數級增長，通過對互動資料進行統計，2021年新釋出的深度合成視訊的點贊數已超過3億。
“技術不斷成熟是深度合成内容迎來爆發式增長的重要原因。研究論文的持續增加、開源技術工具和大量代表性方法的湧現，令深度合成内容的效果更加逼真、制作也更加高效，尤其是生成對抗網絡等算法的出現，讓合成内容達到了 ‘真假難辨’的程度。”瑞萊智慧CEO田天表示。
資料說明:在10家國内外平台中(愛奇藝、騰訊視訊、優酷、哔哩哔哩、抖音、快手、微網誌、YouTube、Twitter、 TikTok)，以“Deepfakes”等10個中英文關鍵詞進行檢索，并通過URL去重後，将具有視訊分類标簽的資料進行統計得到的分析結果
正因為如此，深度合成在影視制作、廣告營銷、社交娛樂等領域發展出多元化的商業應用，例如AI合成主播、虛拟偶像、修複曆史老照片、影視劇本地化配音、“數字複活”已過世演員等。一些面向公衆開發的合成類産品也陸續推出，《報告》顯示，視訊、語音和文本形式的服務最為普遍，例如支援風格定制的特效視訊制作軟體等風靡網絡；語音方向衍生出了語音導航、有聲讀物、自動新聞播報等應用；文本合成則在新聞報道、詩文創作、聊天問答等方面發揮着重要作用。
“元宇宙”等新商業思維的提出，也為深度合成提供了更廣闊的應用場景。“比如虛拟人、數字人即是深度合成的主要應用，也是‘元宇宙’的重要組成部分，”阿裡巴巴安全感覺與認知智能部負責人薛輝表示。清華大學新聞與傳播學院常務副院長陳昌鳳認為，深度合成将重新定義虛拟數字化空間，從傳播社會學意義上看，一個新的人類生存場景将以深度合成技術為基石展開。
風險加劇，技術檢測成重要應對舉措
深度合成激發了新内容創造力的同時，也帶來了新的威脅。随着技術逐漸“平民化”，不法分子可輕易僞造音頻、視訊，實施誣陷、诽謗、詐騙、勒索等違法行為，甚至捏造國家政要言論擾亂社會與政治秩序。
2021年10月，安徽合肥警方曾查獲一起非法利用深度合成技術僞造手機使用者人臉動态視訊破解身份核驗，為黑灰産業提供注冊虛拟手機卡等技術支撐的案件。近年來，類似事件開始更多的進入公衆視野。
深度合成内容模糊了真實和虛假的邊界，将對社會信任、媒體信任、政治信任産生巨大的影響。陳昌鳳表示，虛假内容的高難度甄别影響了事實核查的有效性，在社會重大事件或政治事件節點上，深度合成技術可能被用于操作輿論意見，借助社交媒體，使虛假資訊短時間内引發産生病毒式擴散，激化社會沖突。
負面風險不斷加劇，如何有效甄别深度合成内容就成為了關鍵，但随着合成品質的不斷提升，傳統基于生物特征的鑒别方式越來越難以發揮作用。
資料說明:在arXiv中，論文摘要範圍内以“GAN”等16個關鍵詞進行檢索，統計圖像、視訊、音頻、文本合成領域的論文發表數量
“目前對深度合成的檢測主要依賴于人工智能模型，依賴于訓練資料的完備性，包括檢測器泛用性相低、公開資料集适用性、資料敏感等，這些都将帶來諸多挑戰。”浙江大學網絡空間安全學院院長任奎表示。
中國工程院院士邬賀铨認為，深度合成的治理有兩項要點，第一，要持續發展技術，不能“一刀切”地禁止，避免阻礙正向應用與創新。第二，衍生出的安全問題要從源頭上解決，利用技術創新、技術對抗等方式，持續提升和疊代檢測技術的能力。田天也表示，新型僞造方法層出不窮、網絡傳播環境的日趨複雜，加上基于檢測算法存在漏洞缺陷等，反深僞檢測技術面臨“強對抗性”，需要持續更新與疊代。
《報告》顯示，目前學術界和産業界均已對反深僞檢測投入了大量研究，Meta（原Facebook）、谷歌、微軟等機構均推出了深度合成視訊認證的方法或産品。
在國内，清華大學、中科大等高校在深度僞造内容檢測方面取得顯著成果，清華大學孵化團隊瑞萊智慧推出的深度僞造内容檢測平台DeepReal擁有工業級的檢測性能和應對實網環境對抗變化的檢測能力。
清華大學人工智能研究院基礎理論研究中心主任朱軍認為，深度合成檢測面臨持續的攻防和博弈，未來還需融合多模态内容的驗證分析、基于數字水印的溯源技術等多方面能力，實作精準識别。
建構多元度治理機制，引導深度合成技術良性發展
深度合成技術的良性發展，離不開多元度治理機制的探索。
《報告》顯示，除了發展深度僞造内容檢測技術以外，近幾年來，針對深度合成技術惡意使用所帶來的挑戰，世界各國紛紛出台相關法律法規，探索深度合成的治理路徑。國際方面，美國從聯邦和州層面進行專門立法，歐盟将深度合成納入《通用資料保護條例（GDPR）》等現有法律架構規制。此外，德國、新加坡、英國、南韓等國家，均有适用于深度合成技術相關犯罪案件審理的法律法規。
大陸也在積極探尋有效的治理機制。2019年11月起先後出台的《網絡音視訊資訊服務管理規定》、《網絡資訊内容生态治理規定》、《中華人民共和國民法典》、《網際網路資訊服務算法推薦管理規定》，均對生成合成類内容等提出了不同程度的監管要求。今年1月，國家網信辦公布了《網際網路資訊服務深度合成管理規定（征求意見稿）》，對深度合成内容的用途、标記、使用範圍以及濫用處罰作出了具體規定。
對于深度合成内容治理路徑的探索，陳昌鳳表示可以從技術、倫理與法制等幾個方面努力，“技術方面，通過政府與社會組織參與、協同治理，倫理方面，确立和倡導相關的深度合成原則”。中國社科院哲學所科技哲學研究室主任段偉文建議，對深度合成技術引發的社會、法律和倫理問題，應展開有系統性、前瞻性的跨學科研究，對其可能出現的高風險應用場景，進行有針對性的治理與監管。
中科院自動化所研究員、聯合國教科文組織AI倫理特設專家組專家曾毅則倡導産研發展自律自治，他表示，在法律法規不完全成熟及體系化之前，産業界自身應強化“理論先行”意識，作為産業共同體共同防範濫用、嚴禁惡用。
“社會層面應加大宣傳普及力度，強化公民對深度合成等人工智能技術的認識，提高全社會的防範意識，推動公民作為負責任的深度合成技術的使用者，主動辨別合成内容并積極踐行社會監督，”對外經濟貿易大學法學院副教授許可表示。
對此，田天也表示，深度僞造的本質問題是透明度不足，是以提高公衆對深度合成技術的認知尤為重要，隻有将門檻降低到所有閱聽人能夠在共同的架構下去認識、讨論、了解這個問題的時候，深度合成技術才能健康良性發展。
《報告》也建議，各方應當與時俱進落實好新的規範要求，并在此前提下不斷追求技術突破，不斷開拓深度合成技術應用場景，創立示範标杆，形成對人工智能行業整體的帶動效應，進而促進新技術的持續健康發展。