去年釋出的深度合成視訊點贊數超過3億，《深度合成十大趨勢報告》釋出

日前，清華大學人工智能研究院及其核心孵化企業北京瑞萊智慧科技有限公司，聯合清華大學新傳院智媒研究中心、國家工業資訊安全發展研究中心、北京市大資料中心共同釋出了《深度合成十大趨勢報告（2022）》。

【去年釋出的深度合成視訊數量，較2017年增長10倍以上】

深度合成技術，是指利用深度學習、虛拟現實為代表的合成類算法制作文本、圖像、音頻、視訊、虛拟場景等資訊的技術。2017年，一位名叫“Deepfakes”的使用者在美國Reddit網站上分享了篡改人臉的色情視訊，将深度合成技術帶到了大衆面前。

《報告》顯示，近幾年，深度合成内容制作和傳播數量高速增長。2021年釋出的深度合成視訊數量，較2017年已增長10倍以上。此外，深度合成内容關注度也呈指數級增長，以視訊的“點贊/喜歡”互動資料為例進行統計，2021年新釋出的深度合成視訊的點贊數已超過3億。

深度合成領域的論文數量自2017年持續以每年30%速率高速增長。論文研究之外，深度合成領域開源項目也以每年30%速率持續攀升。

《報告》顯示，深度合成的應用場景不斷豐富，如修複曆史照片、AI手語主播、虛拟偶像等應用。越來越多的企業機構開始利用深度合成技術提供面向公衆的産品和服務。圖像和視訊在深度合成應用的初期最為普遍，由于産品品質良莠不齊且容易侵犯使用者隐私，監管規範到位後其數量逐漸減少。音頻方面，語音合成已經成為人機互動的重要一環，且被廣泛應用于智能硬體、智能客服、語音導航、有聲讀物、機器人、語音助手等場景。文本方面，深度合成在詩文創作、聊天問答等方面得到越來越多的應用，并顯現出創作效率和未來潛力。

《報告》預測，伴随着自動資料生成、全身合成、3D塑型等技術的逐漸成型，一個新的人類生存場景将以深度合成技術為基石展開。元宇宙就是基于深度合成技術打造的未來人類虛拟數字空間，它“完成了對現實空間和時間的多重複制和延伸，跳脫了傳統實體空間的局限，提供了一個虛拟人、自然人和機器人融生的逼近現實且超越現實的新世界”。

【技術門檻越來越低，違法行為屢見不鮮】

《報告》認為，在深度合成技術向社會生活各個領域滲透之時，深度合成内容負面風險持續加劇且産生實質危害。深度合成内容制作的技術門檻越來越低，制造虛假視訊、虛假音頻進行誣陷、诽謗、詐騙、勒索等違法行為屢見不鮮。

人類的傳播活動，也因深度合成技術逐漸步入“深度後真相”時代。《報告》分析，首先，“深度僞造”深刻影響了對真相的記錄，對虛假内容高難度的甄别影響了事實核查的有效性。其次，深度合成技術若被惡意使用，将借助社交媒體，使虛假資訊短時間内在網際網路上産生病毒式的擴散和蔓延。第三，在日常事件的資訊釋出與追蹤中，深度僞造的資訊還會造成輿論意見的不斷翻轉，激化社會不同群體的沖突，削弱主流意見對社會的彌合作用。亟須警惕的是，深度合成技術的惡意僞造内容通常迎合大衆獵奇心理，具有極強的意識塑造能力。

《報告》還指出，深度合成内容的鑒别正面臨技術挑戰。新型僞造方法層出不窮，加上基于深度神經網絡的檢測算法存在結構性缺陷等，鑒别技術也面臨“強對抗性”，需要持續更新與疊代優化。這類似于“貓鼠遊戲”，深度合成和鑒别在不斷學習攻防過程中會自我進化，規避上一代的對抗技術。目前，國内外學術界和産業界均已對鑒别檢測技術的研發進行了大量投入，瑞萊智慧等科技企業推出了檢測産品，支援對多種換臉方法進行檢測。

世界各國紛紛出台法律法規，探索對深度合成的依法管理。今年1月28日，國家網際網路資訊辦公室釋出《網際網路資訊服務深度合成管理規定（征求意見稿）》并公開征求意見，旨在促進深度合成技術依法合理、有效利用，規範發展網際網路資訊服務深度合成活動。

【深度合成治理，需法律、倫理、技術三者合力】

如何規範深度合成技術應用、最大限度地趨利避害，多位業界專家學者從倫理和治理的角度表達了自己的看法。

中國科學院院士、清華大學人工智能研究院創始院長張钹，在《報告》中表示，人工智能的治理是一項長期任務，既要走創新發展的道路，堅持發展更加安全、可靠、可控的人工智能；還要抓人工智能的治理，從倫理規範、法律法規、行業共識等不同層面去發力。

中國社科院哲學所科技哲學研究室主任段偉文建議，應展開系統性、前瞻性的跨學科研究，對深度合成可能出現的高風險應用場景，進行針對性的治理與監管。

對于深度合成内容治理路徑的探索，清華大學新聞與傳播學院常務副院長陳昌鳳表示可以從技術、倫理與法制等幾個方面努力，技術方面，通過政府與社會組織參與、協同治理，倫理方面，确立和倡導相關的深度合成原則。

中科院自動化所研究員、聯合國教科文組織AI倫理特設專家組專家曾毅則倡導産業發展自律自治，他表示，在法律法規不完全成熟及體系化之前，産業界自身應強化“理論先行”意識，作為産業共同體共同防範濫用、嚴禁惡用。

北京瑞萊智慧科技有限公司首席執行官田天也表示，深度僞造的本質問題是透明度不足，是以提高公衆對深度合成技術的認知尤為重要，隻有将門檻降低到所有閱聽人能夠在共同的架構下去認識、讨論、了解這個問題的時候，深度合成技術才能健康良性發展。

《報告》建議，各方應當與時俱進落實好新的規範要求，并在此前提下不斷追求技術突破，不斷開拓深度合成技術應用場景，創立示範标杆，形成對人工智能行業整體的帶動效應，進而促進新技術的持續健康發展。