“深度合成”新規，“元宇宙”關鍵技術迎來監管

毋庸置疑的是，人工智能（AI）、大資料、區塊鍊等技術在短短十幾年内已經深刻的改變了我們的生活方式，在這個日益虛實交融的世界裡，新的事物在不斷被創造，并漸漸與舊世代的事物形成更加龐大而複雜的關系網。

深度合成（Deep Synthesis，以前曾被稱為Deepfake，即“深度僞造”）作為AI技術的新應用、新實踐，近年來備受關注。

一方面，利用深度合成技術可以自動生成文本、語音、圖像、視訊等各種數字内容，已經成為了目前元宇宙發展的關鍵技術；另一方面，近年來科技迅猛發展，深度合成技術門檻快速降低，導緻濫用技術的案例頻出，引發各類風險。

是以，目前亟待以立法的形式對深度合成技術的應用進行規制，尤其是要對深度合成内容的用途、标記、使用範圍以及濫用技術的處罰作出具體規定，同時明确責任主體，才能真正實作“技術向善”。

2022年1月28日，國家網信辦最新公布了《網際網路資訊服務深度合成管理規定（征求意見稿）》（簡稱《深度合成征求意見稿》），對作為元宇宙基石的深度合成技術做出了一系列較為明确的規定和指引。本文對此檔案進行解讀，以幫助讀者明晰：深度合成技術怎麼用才合規。

一、深度合成技術及其在元宇宙中的實際應用

從技術上來說，“深度合成”技術，實質上就是利用深度學習算法來實作的，其主要使用的兩個技術：自動編碼器和生成對抗網絡（GAN）。

一個用來進行新資料的生成，一個用來對生成資料進行鑒别，經過二者無數次“合作”，最終生成出極具“真實感”的合成資料。目前大家耳熟能詳的AI換臉就是利用深度合成所創造的。

而根據《深度合成征求意見稿》第二條，深度合成技術指的是：

利用以深度學習、虛拟現實為代表的生成合成類算法制作文本、圖像、音頻、視訊、虛拟場景等資訊的技術，包括但不限于：

（1）篇章生成、文本風格轉換、問答對話等對文本内容進行生成或者編輯的技術；

（2）文本轉語音、語音轉換、語音屬性編輯等對語音内容進行生成或者編輯的技術；

（3）音樂生成、場景聲編輯等對非語音内容進行生成或者編輯的技術；

（4）人臉生成、人臉替換、人物屬性編輯、人臉操控、姿态操控等對圖像、視訊内容中人臉等生物特征進行生成或者編輯的技術；

（5）圖像增強、圖像修複等對圖像、視訊内容中非生物特征進行編輯的技術；

（6）三維重建等對虛拟場景進行生成或者編輯的技術。

按照該定義，AI語音，NFT生成藝術、虛拟演唱會、全息人像投影、虛拟人數字人、AR購物等元宇宙的重要組成部分都屬于深度合成技術的具體應用。而隻要在中華人民共和國境内應用深度合成技術提供網際網路資訊服務，或為深度合成服務提供技術支援的活動，均在《深度合成征求意見稿》的規制範圍内。

随着“深度合成”技術逐漸成熟并進入商業化應用階段，其巨大的經濟價值已經逐漸向世人展露。目前，“深度合成”已經在音樂、影視、綜合娛樂、社交等多個行業的場景中被實際推廣應用。

例如，在電影大片的制作中其應用最為成熟，不僅可以通過提升音視訊制作的效率和品質，顯著降低影片制作成本，還能賦予藝術創作者更大的想象空間。甚至深度合成技術還可以使一些已過世的演員進行在影視劇中以虛拟數字人的形态“複活”。

在綜合娛樂方面深度合成同樣表現不俗，某網際網路大廠常用的臉部特效、換臉短視訊等已經在我們的生活中屢見不鮮。虛拟偶像、虛拟主播、甚至已經有能力為消費者提供娛樂、購物、向導等服務。另外，在教育、藝術、醫療和科研等領域，深度合成技術都可以為這些産業帶來新的應用。

二、深度合成技術存在的風險

自從2017年Deepfake（深度僞造）出現後，AI技術在造假方面的潛力為世人所驚歎。此後，GAN算法的突飛猛進不僅僅可以做到AI換臉，甚至能自動生成文本、人工語音、圖像等各種數字内容。

深度合成技術在為我們的生活提供便利的同時，也帶來了一系列的風險。例如AI換臉制作的大量色情視訊正在網絡上泛濫成災，不僅嚴重侵犯了他人的肖像權、隐私權和名譽權、個人資訊安全等個人私益，對社會公共秩序和善良風俗也造成了嚴重的侵害。甚至有不法分子利用AI換臉、合成聲音等技術實施詐騙等犯罪活動。

2021年，山東省公安廳網絡安全總隊就公布了幾個利用深度合成技術實施詐騙的真實案例。

2020年12月，某公司财務接到上司電話要求立刻給供應商轉款兩萬元，并将轉賬資訊以郵件形式發送到對方郵箱，理由是避免繳納滞納金。由于電話中老闆的口音十分逼真，公司财務毫無懷疑地在一小時内完成了轉賬。

更有甚者，在山東網安總隊公開的第二個案例中，犯罪分子利用了社交媒體視訊進行詐騙。

其首先通過盜用了他人社交媒體賬号，擷取他人面部資訊，通過與賬号原所有人親屬進行視訊電話的形式要求親友向其指定賬号轉賬，成功地取得了受害人的信任，騙取了大量錢财。

利用深度合成技術實施違法犯罪活動是其風險的表象，而深度合成技術真正危險的是其對社會信任關系的嚴重破壞。信任關系的存在，對于任何個體、社群來說都是無比重要的，甚至有學者認為，信任是自古以來人類社會存在的基礎之一，關于人與人之間的信任關系的重要性，無論做出多高評價都不為過。

張康之老師認為，在人類曆史的農業社會階段中，人們之間的信任關系以傳統習俗的形式表達，而近代工業社會中所存在的人們之間的信任關系，則屬于契約型的信任關系。雖然社會信任的形式會随時代變遷而改變，但無論如何，社會的維系必須建立在社會信任的基礎上。

深度合成技術擁有破壞社會信任的潛力，俗話說，眼見為實，但當眼見、耳聞都不再是真實，謊言和欺騙甚嚣塵上時，社會信任将會蕩然無存。

康德在《實踐理性批判》中就曾論證了“無信任社會”的可怕。按照康德的理論，假如謊言是社會的通行法則，那麼人人可以說謊。在這種情況等下，作為一個擁有正常理智的人，我們不會再去相信說謊的人，也就不會再相信這世界上的每一個人。不被相信的謊言也就不再有意義，這就形成了一個悖論。

康德也正是據此反推“不說謊”和社會信任才是社會存在和發展的正常形态，因為隻有在社會信任中，說謊者才能以謊言獲利。

如今，資訊網絡已經深入到我們生活的各個角落，毫無節制地濫用深度合成技術，會給我們帶來的必然是一個價值混亂、信任喪失并分崩離析的社會。是以，以法律的形式對其進行合理規制具有緊迫性和必要性。

三、深度合成技術合規要點

《深度合成征求意見稿》作為大陸第一個專門規制深度合成技術的法規，對元宇宙企業等科技公司的合規發展有着至關重要的作用。

（一）責任主體及具體要求

根據《深度合成征求意見稿》第二條，深度合成技術責任主體有兩類：

（1）在中華人民共和國境内應用深度合成技術提供網際網路資訊服務的主體；

（2）為深度合成服務提供技術支援的主體。

對于這兩類主體，根據《深度合成征求意見稿》第七條規定，其需要：

落實資訊安全主體責任，建立健全算法機制機理稽核、使用者注冊、資訊内容管理、資料安全和個人資訊保護、未成年人保護、從業人員教育教育訓練等管理制度，具有與新技術新應用發展相适應的安全可控的技術保障措施。

另外，《深度合成征求意見稿》第十六條特别規定了網際網路應用商店服務提供者的責任：

應當對深度合成服務提供者提供的深度合成應用程式履行安全管理責任，依法依約核驗深度合成應用程式的安全評估、備案等情況；對違反國家有關規定的，應當及時采取不予上架、暫停上架或者下架等處置措施。

（二）程式合規

1.備案

根據《深度合成征求意見稿》第十九條，深度合成服務提供者應當按照《網際網路資訊服務算法推薦管理規定》（以下簡稱《算法規定》）的有關規定，

在提供服務之日起十個工作日内履行備案手續。完成備案的深度合成服務提供者應當在其對外提供服務的網站、應用程式等的顯著位置标明其備案編号并提供公示資訊連結。

2. 安全評估

根據《深度合成征求意見稿》第十一條和第二十條，随應用深度合成技術的情況不同，需進行不同種類的安全評估：（1）自行進行安全評估；（2）按國家有關規定進行安全評估。

對于提供具有對人臉、人聲等生物識别資訊或者可能涉及國家安全、社會公共利益的特殊物體、場景等非生物識别資訊編輯功能的模型、模闆等工具的，應當自行開展安全評估。而對于深度合成服務提供者開發上線具有輿論屬性或者社會動員能力的新産品、新應用、新功能的，則需按國家有關規定進行安全評估。

（三）實體要求

《深度合成征求意見稿》第八條到第十四條集中規定了深度合成技術責任主體的要求，主要包括：資訊安全、真實身份資訊認證、技術稽核評估、資料安全保障、内容管理、内容可識别和可追溯、内容辨別幾個方面。

其中需要特别注意的是内容辨別部分，根據《深度合成征求意見稿》第十四條：

深度合成服務提供者提供深度合成服務的，應當使用顯著方式對深度合成資訊内容進行辨別，向社會公衆有效提示資訊内容的合成情況。

對于違反《深度合成征求意見稿》的行為，在承擔行政責任方面将面臨警告、責令限期改正、暫停相關業務、暫停資訊更新，并處一萬元以上十萬元以下罰款的後果。而在民事方面，由于違反相關規定而給他人造成損害的，應依法承擔民事責任。在刑事方面，對于構成犯罪的行為，依法追究刑事責任。

四、寫在最後

深度合成技術是一個再典型不過的科技“雙刃劍”，隻有為其劃定适當的使用架構，才能真正意義上科技興國、造福全民。

當然，沒有任何一個技術是在人類做好萬全準備後才出現，深度合成、大資料、區塊鍊技術都是如此。在我們即将全面迎來數字化世界的今天，既不能因噎廢食，以過于嚴格的立法限制深度合成的發展，也不能對其過于寬松放任自流。如何更加恰當、合理地立法，是我們全體法律人對時代承擔的責任。