視訊換臉，怎麼管？

圖：視覺中國

來源：21tech

作者：楊清清

編輯：張偉賢

作為人工智能行業的領域之一，深度合成的重要性正在滲透進生活的方方面面。

無論是視訊換臉、語音合成，或是影像修複以及最近因元宇宙大火的虛拟數字人，其背後均是深度合成技術在發揮作用。在當下，深度合成正愈發頻繁地出現在社交娛樂、影視制作等領域，并發展出多元化的數字應用。

從内容量而言，深度合成行業應用也在迎來跳躍發展。

根據近日清華大學人工智能研究院、國家工業資訊安全發展研究中心等機構聯合釋出的《深度合成十大趨勢報告（2022）》（以下簡稱“《報告》”）顯示，網際網路中深度合成視訊的新增釋出量從2017年的1680個飙升至2021年的24317個，網際網路中深度合成視訊的點贊/喜歡數量也從2017年的249.74萬次，躍至2021年的3.16億次。

在行業蓬勃發展的過程中，行業相關的合規步伐也在提速。3月1日，由國家網際網路資訊辦公室、工業和資訊化部、公安部、國家市場監督管理總局聯合頒布的《網際網路資訊服務算法推薦管理規定》正式施行，其中明确要求不得生成合成虛假新聞資訊。

而就在2022年1月28日，國家網際網路資訊辦公室還頒布《網際網路資訊服務深度合成管理規定（征求意見稿）》，旨在促進深度合成技術依法合理、有效利用，規範發展網際網路資訊服務深度合成活動。

在接受包括21世紀經濟報道在内的媒體采訪時，中國社會科學院哲學所研究員、科學技術哲學研究室主任段偉文表示，深度合成技術涉及認知安全，是以要提升社會認知安全意識，提升公衆的數字素養。與此同時，政府部門、企業及各界需要積極開展相關法律倫理、治理的對話與規範制定，進而實作創新與治理間的動态平衡。

應用提速

面部替換、表情操縱、語音合成……伴随技術的發展成熟，目前網際網路上出現了越來越多的深度合成内容。

《報告》顯示，根據不完全統計，創作者在網際網路平台中釋出的深度合成内容數量，正在呈現高速增長。以視訊為例，2021年新釋出的深度合成視訊數量，較2017年已增長10倍以上。

不僅是内容量本身暴增，深度合成的内容關注度也在呈現指數級增長。《報告》指出，以視訊的“點贊/喜歡”資料為例，自2017年以來，該項資料呈現出指數級的顯著增長，2021年新釋出的深度合成視訊點贊數已超過3億。

此外，《報告》選取超過4000條深度合成視訊的互動視訊，并分析“播放量、點贊/喜歡數、收藏數、轉發數、評論數”幾項互動資料之間的關系後發現，平均每1000次播放，可産生約8.92次點贊/喜歡，同時會産生約3.51次轉發，進而将深度合成内容進行新一輪傳播。

除了内容層面之外，在技術層，深度合成領域同樣飛速發展。《報告》顯示，2021年深度合成領域的論文發表數量達到4559篇，相較2017年的1012篇大幅提升。在這些深度合成領域的論文中，包含對圖像、視訊、音頻、文本等不同模态合成方面的技術研究，其中針對圖像類生成模型的研究占比高達64%。

與此同時，自2017年以來，深度合成領域的開源項目釋出數量也在逐年提升。到2021年，在GitHub中，與“GAN”等16個關鍵詞相關的開源項目釋出量已達到23030個，相較2017年的8250個增長179%。深度合成在開源社群中持續走高的熱度，也将繼續推動該技術的發展與在産業中的落地。

事實上，目前深度合成的應用場景已經在持續豐富，無論是手語AI生成主播、虛拟偶像或是修複老照片、AI換臉等，随着技術成熟度的持續提升，深度合成正在快速進入大衆視野，越來越多的企業機構也開始利用深度合成技術，提供面向公衆的産品和服務。

這也很大程度上降低了深度合成的門檻。瑞萊智慧CEO田天介紹稱，以自去年下半年開始大熱的虛拟數字人為例，如果沒有深度合成技術，虛拟形象的成本非常高昂，且需要極強的專業性。“但基于深度合成技術，可以通過AI自動學習來降低成本及門檻，進而令更多人參與到内容生成中，并促進數字空間的發展。”

合規治理

随着深度合成行業持續發展，内容制作的技術門檻持續降低甚至實作技術“平民化”，相關的内容風險也在持續加劇。

事實上，通過深度合成技術制造虛假視訊、虛假音頻進行誣陷、诽謗、詐騙等違法行為和事例已屢見不鮮，深度僞造内容數量持續增多、危害性不斷增強，是以，深度合成行業治理也是亟待解決的問題。

“目前深度合成的鑒别需求在快速增長，但鑒别難度也在快速提升。”田天向21世紀經濟報道記者坦言道，行業挑戰主要展現在深度合成逼真度正在快速提升，甚至很難分辨真僞邊界，此外最新的深度僞造技術具備強對抗性，天然針對檢測方法進行對抗攻擊，進而使檢測方法失效。

而為了促進深度僞造檢測技術的發展，國内外已釋出專項研究計劃及開展相關學術競賽。目前，學術界和産業界均已對深度合成鑒别檢測技術的研發進行了大量投入，包括Meta、谷歌、微軟等機構均推出視訊認證的方法或産品，在國内包括清華大學、中科大等機構及企業也已建構人臉合成檢測平台并釋出針對性檢測産品。

從監管機制而言，國内外也在持續探索。早在2018年，美國便提出《2018年惡意僞造禁令法案》，2019年又繼續釋出《深度僞造責任法案》，持續重拳出擊深度僞造行為。歐盟同樣自2018年開始陸續推出《應用線上虛假資訊：歐洲方案》、《通用資料保護條例（GDPR）》、《反虛假資訊行為準則》等，打擊深度僞造相關違法違規行為。

大陸也在積極探尋建設有效治理機制。自2019年以來，包括《網絡音視訊資訊服務管理規定》《網絡資訊内容生态治理規定》《網際網路資訊服務算法推薦管理規定》等均對深度合成違法違規行為進行了限制，今年1月更是頒布《網際網路資訊服務深度合成管理規定（征求意見稿）》，進而形成深度合成領域系統性、針對性和可操作性的專門管理規定。

段偉文指出，深度合成的穩健治理需要多措并舉，不僅需要技術管理也需要内容管理，同時需要提升社會整體認知和安全意識。此外，行業内還需要形成具有預見性、穩健的治理架構。

“現在行業希望政府或相關部門及各界積極開展有關法律倫理、治理上的對話，相關規範的制定，以及實踐的推廣，這些都是為了實作在創新和治理之間的動态平衡，實施靈活、穩健的治理，進而令科技更好地服務數字化轉型等。”段偉文說。

編輯：盧陶然