AIGC産品上市合規系列文章從算法備案、安全評估、資質證照和内控措施四個方面進行深入探讨，介紹人工智能産品上市所需遵守的相關法律法規、政策規範和行業标準。
作者丨蔡鵬 肖莆羚令 陳雨婕
引言
人工智能是當今時代的最強大的驅動力之一，它正在以前所未有的速度和規模改變着我們的生活、工作和社會。人工智能技術的不斷創新和應用，也帶來了一系列的法律、倫理和安全等方面的挑戰和風險。作為人工智能領域的一個重要組成部分，AIGC産品的發展和應用面臨着特殊的合規性挑戰。如何在保障人工智能的發展空間和活力的同時，有效地規範和監管人工智能的行為和影響，是所有AIGC産品服務提供者必須面對和解決的重大課題。
正值《生成式人工智能服務管理暫行辦法》釋出之際，我們特别撰寫了關于AIGC産品上市合規的系列文章。該系列文章将從算法備案、安全評估、資質證照和内控措施四個方面進行深入探讨，介紹人工智能産品上市所需遵守的相關法律法規、政策規範和行業标準。我們不僅會為讀者詳細解讀目前法律法規對AIGC産品上市的合規要求，還将結合我們的實踐經驗，為讀者提供可借鑒的操作政策。
我們深知AIGC賽道的複雜性和合規要求的多樣性，我們的探索與經驗可能隻是冰山一角。我們謹希望透過專題文章，為AIGC技術和産品的投資人、開發者、營運者及相關方提供一點啟發和借鑒，幫助他們更好地了解和應對合規要求，為AIGC産業的繁榮與進步貢獻專業力量。
撥雲見日——AIGC産品合規上市之算法備案篇
算法備案作為算法治理體系的重要監管内容，是算法透明度要求的落地方式之一，旨在保護使用者權益，維護産品安全和資訊安全。自《網際網路資訊服務算法推薦管理規定》（下稱《算法推薦管理規定》）、《網際網路資訊服務深度合成管理規定》（下稱《深度合成管理規定》）提出算法備案要求以來，中央網信辦已連續釋出了四批境内網際網路資訊服務算法備案清單和首批境内深度合成服務算法備案清單。
此外，各大應用商店也開始加強對App完成算法備案情況的稽核。根據《深度合成管理規定》第十三條，如AIGC産品未按照相關法律法規履行算法備案的，應用商店有權采取不予上架、警示、暫停服務或者下架等處置措施。鑒于此，算法備案義務已成為AIGC産品合規上市的必由之路。
一、“深度合成算法”與“生成合成類算法”的差別
在《深度合成管理規定》釋出之初，業界曾對“深度合成技術”與“生成合成類技術”的關系展開讨論。根據《深度合成管理規定》規定，“深度合成技術，是指利用深度學習、虛拟現實等生成合成類算法制作文本、圖像、音頻、視訊、虛拟場景等網絡資訊的技術”。從文意本身分析，“深度合成技術”是“生成合成類算法”的利用形态之一。
根據我們對相關技術的初步調研，生成合成類技術包含深度合成技術：深度合成算法與生成合成算法均可利用深度學習技術（例如卷積神經網絡（CNN）、生成對抗網絡（GAN）、變分自編碼器（VAE）等）生成圖像、視訊、音頻以及其他類型的資料，兩類算法均可用于計算機視覺、圖像處理、計算機圖形學、虛拟現實、增強現實等領域。兩種技術的相同點是它們都可以實作和現實完全不一樣的内容，而深度合成算法的特點在于其訓練時依賴深度學習技術，通過學習資料的特征和分布，不斷調整模型參數來生成逼真且與真實世界相似的新資料，如Deepfake，而Deepfake本身也是一種特定生成方法。生成合成類算法則更進一步，其基于一套确定的規則、參數或模型，生成全新的、完全原創的、一種更加趨于“真實”的内容。用更加通俗的語言解釋，如果深度合成技術是“換臉”，那麼生成合成類技術就是“造臉”。
實踐中，“網際網路資訊服務算法備案系統”顯示，“生成合成類算法”與“深度合成算法”被列為一類，即“生成合成類（深度合成）算法”。是以，即使在技術層面深度合成技術與生成合成技術的關系或存争議，但就算法備案實操而言，企業履行算法備案義務以及被要求提供的備案資訊并不因生成合成類算法與深度合成算法的差別而有所區分。
點選可檢視大圖
二、算法備案實務介紹
1、備案主體
與《算法推薦管理規定》所監管的其他幾類算法不同，深度合成算法是唯一一項在備案環節需要區分備案主體身份的算法。其備案角色包括服務提供者和技術支援者，且兩類主體對同一算法的備案義務互相獨立。
對于企業而言，判定其是否應當履行備案義務時，可參照以下線索：
- 如企業針對同一款算法存在前述兩種角色，應當分别完成作為深度合成服務提供者以及深度合成服務技術支援者的備案；
- 如企業僅為服務提供者，不對外提供深度合成服務技術支援，則其僅需要完成作為深度合成服務提供者的備案；
- 對于從技術供應商處采購深度合成技術并利用該技術向終端使用者提供深度合成服務的企業而言，無論該深度合成技術供應商是否已完成相關備案，其也需以深度合成服務提供者的身份履行單獨的備案義務。
對于集團公司而言，同一個算法可能由集團的多個下屬公司共享。在此情形下，集團公司可以選擇有權控制算法的公司作為備案主體。但需要注意的是，此情形下算法備案主體可能與應用該算法的AIGC産品的ICP主體不一緻。企業需要在主體資訊中送出關于算法備案與ICP主體不一緻的情況說明，例如二者之間存在關聯關系等。
2、備案範圍備案程式
結合《<網際網路資訊服務深度合成管理規定>備案填報指南》以及我們的項目實踐，深度合成算法備案的流程包括三個步驟：
第一步：填報主體資訊，填報完成後需等待背景從業人員稽核通過方可繼續填報算法資訊和産品及功能資訊。
第二步：填報算法資訊，包括算法基礎屬性資訊、算法詳細屬性資訊（詳見下圖）。
算法基礎屬性填報内容
算法詳細屬性填報内容（點選可看大圖）
第三步：關聯産品及功能資訊或填報技術服務方式，第二步和第三步需一并遞交稽核。
深度合成服務提供者和技術支援者在算法備案過程中的差異主要在于第三步填報内容不同，即深度合成服務提供者需填報關聯産品及功能資訊，而深度合成服務技術支援者需填報技術服務方式。具體流程詳見下圖：
點選可檢視大圖
在具體填報的過程中，鑒于填報内容較多，通常情況下需要一定時間準備材料，是以我們建議企業首先根據“網際網路資訊服務算法備案系統”梳理需要填報的内容，在确認填報的内容準确無誤後再行上傳至系統中，以免因系統不穩定或者未儲存而需重複操作。
3、備案材料
在算法備案材料中，除了主體資訊、算法基本資訊等實時填寫的基本内容之外，還需單獨準備以下幾個附件：
（1）落實算法安全主體責任基本情況
在主體資訊填報（第一步）中，企業需要上傳“落實算法安全主體責任基本情況”表，其主要内容包括企業設定的算法安全專職機構以及制定的算法安全管理制度。算法安全管理制度應當至少包括算法安全自評估制度、算法安全監測制度、算法違法違規處置制度、算法安全事件應急處置制度、科技倫理審查制度等。
（2）算法安全自評估報告
在算法資訊填報（第二步）中，企業需要送出算法安全自評估報告，其主要包括算法情況（算法流程、資料、模型和幹預政策）、服務情況、風險研判、風險防控情況、安全評估結論等内容。對比服務提供者與技術支援者的算法安全自評估報告模闆，服務提供者需提供更多關于内容生态治理、結果辨別、辟謠機制，以及使用者權益保障方面的說明。
（3）拟公示内容
根據《算法推薦管理規定》第十六條，算法推薦服務提供者應當以适當方式公示算法推薦服務的基本原理、目的意圖和主要運作機制等。在算法資訊填報（第二步）中，企業即需要送出算法拟公示内容，主要包括算法基本原理、算法運作機制、算法應用場景、算法目的意圖，以供監管機構稽核。鑒于目前監管機構并未公布關于算法基本原理、算法運作機制等内容的公示次元，建議企業可參考行業目前的實踐做法，把握公示内容的顆粒度，以確定在不洩露算法技術商業秘密的前提下履行算法公示的法律義務。
前述材料是整個算法備案中的關鍵稽核材料，其内容不僅涉及算法基本原理、算法屬性等算法技術本身，還涉及算法安全管理制度、組織架構、風險防控措施等算法合規體系建構情況。是以，建議需完成算法備案的企業可提前準備相關内容，必要時，可引入富有經驗的外部律師協助企業搭建算法合規體系，盡可能確定算法備案材料的齊備性。
4、備案期限
根據《算法推薦管理規定》第二十五條，當算法材料齊全的，網信部門應當在三十個工作日内予以備案。根據我們的項目實踐，在深度合成算法備案過程中，可能存在需公司補正材料的情形，是以完成深度合成算法備案通常需2個月以上。
日前公布的《生成式人工智能服務管理暫行辦法》亦對AIGC産品提出算法備案要求。作為人工智能領域的重要監管措施，算法備案已成為AIGC産品的入市門檻。鑒于算法備案所需時間較長，建議需履行算法備案的企業盡早開展算法備案工作。在具體的算法備案過程中，一方面，企業需對自身算法進行全面地梳理，由法務、IT協調配合準備相關備案材料，必要時可引入外部律師協助準備；另一方面，企業需充分了解相關法規要求和備案流程，必要時可與監管部門進行積極溝通和協調。完成算法備案後，應當及時在産品的顯著位置公示備案編号，并以恰當的方式公示算法的基本原理、運作機制等内容。算法備案僅是算法治理的環節之一，完成算法備案并非一勞永逸，AIGC産業企業應當主動擁抱監管，積極履行《算法推薦管理規定》《深度合成管理規定》關于算法治理的其他合規義務。
霧裡看花——AIGC産品合規上市之安全評估篇
根據《具有輿論屬性或社會動員能力的網際網路資訊服務安全評估規定》，安全評估是所有具有輿論屬性或社會動員能力的資訊服務上市的前置條件。作為一項始于2018年的規定，安全評估在很長一段時間内并未引起市場的注意，直到《生成式人工智能服務管理暫行辦法》将其拉回大衆的視野。
根據《生成式人工智能服務管理暫行辦法》第十七條，提供具有輿論屬性或者社會動員能力的生成式人工智能服務的，應當按照國家有關規定開展安全評估。至此，《具有輿論屬性或社會動員能力的網際網路資訊服務安全評估規定》以及已經趨于成熟的安全評估機制再一次煥發了“生機”。然而，根據我們的實踐探索，此項2018年的舊規定在AIGC産品前有了新的内涵，成為AIGC産品上市前最頑固的一道壁壘。
早在2017年，網信辦就提出了“安全評估”的監管方法。彼時，《網際網路新聞資訊服務新技術新應用安全評估管理規定》規定網際網路新聞服務提供者當（1）應用新技術、調整增設具有新聞輿論屬性或社會動員能力的應用功能，或（2）新技術、新應用功能在使用者規模、功能屬性、技術實作方式、基礎資源配置等方面的改變導緻新聞輿論屬性或社會動員能力發生重大變化時，應當自行組織開展新技術新應用安全評估、編制書面安全評估報告，并報請國家或地方網信辦開展稽核性質的安全評估。這就是業界所稱“雙新評估（新技術新應用）”的雛形。
但是，在《網際網路新聞資訊服務新技術新應用安全評估管理規定》的架構下，開展安全評估的義務主體僅局限于“網際網路新聞資訊服務提供者”，而該規定的上位法《網際網路新聞資訊服務管理規定》又對“網際網路新聞資訊服務”再做限制性定義：
點選可檢視大圖
是以，雖然該規定目前仍然有效，但對于不涉足新聞資訊服務的AIGC産品而言并不适用，是以我們将其命名為安全評估0.5版本。
在《網際網路新聞資訊服務新技術新應用安全評估管理規定》實施一年之後，網信辦釋出了《具有輿論屬性或社會動員能力的網際網路資訊服務安全評估規定》。這一次，安全評估的适用對象不再局限于新聞業，适用場景也從0.5版本的新技術新應用進一步延展開來。
根據該規定，網際網路資訊服務提供者在以下情形下應當自行開展安全評估：
（一）具有輿論屬性或社會動員能力的資訊服務上線，或者資訊服務增設相關功能的；
（二）使用新技術新應用，使資訊服務的功能屬性、技術實作方式、基礎資源配置等發生重大變更，導緻輿論屬性或者社會動員能力發生重大變化的；
（三）使用者規模顯著增加，導緻資訊服務的輿論屬性或者社會動員能力發生重大變化的；
（四）發生違法有害資訊傳播擴散，表明已有安全措施難以有效防控網絡安全風險的；
（五）地市級以上網信部門或者公安機關書面通知需要進行安全評估的其他情形。
在上述情況下，網際網路資訊服務提供者需自行進行安全評估并通過全國網際網路安全管理服務平台（https://www.beian.gov.cn/portal/index.do）向所在地地市級以上網信部門和公安機關送出安全評估報告。評估内容即為《具有輿論屬性或社會動員能力的網際網路資訊服務安全評估規定》第五條所規定内容。
點選可檢視大圖
此外，網信部門和公安部門有權視情況開展現場檢查。一般由網際網路資訊服務提供者攜帶材料前往指定公安部門進行現場檢查和作答。是以，從遞交視窗和檢查機構來看，1.0版本的安全評估以公安部門為實施主力。
此外，1.0版本的安全評估雖然在法條中與“具有輿論屬性或社會動員能力”密切綁定，但實務中對于何為“具有輿論屬性或社會動員能力”的判斷相對寬泛，幾乎囊括了所有具備網際網路資訊互動管道功能的産品。值得注意的是，1.0版本的安全評估流程公開透明，實踐中企業僅需根據全國網際網路安全管理服務平台提供的《安全評估使用手冊》按圖索骥填報真實資訊并上傳備案報告即可，不存在實質障礙。安全評估報告從遞交到通過通常一個月内可以完成。
時間來到人工智能技術大放異彩的2023年。如上文所述，1.0版本的安全評估有了新的内涵。一個現狀是：以大模型為主的AIGC産品開發商正在被要求向中央網信辦提請“雙新評估”。該評估報告要求具體并内容詳盡，動辄上百頁篇幅，與全國網際網路安全管理服務平台所填報的安全評估報告大相徑庭，故稱其為安全評估2.0版。
目前，安全評估2.0版的監管對象以AIGC大模型開發商為主。僅基于我們的實踐經驗與觀察，安全評估2.0版本相較于1.0版本主要有以下差別：
注：上表僅基于我們的實踐經驗和觀察總結，其全面性和準确性有待進一步提升
事實上，監管部門對于AIGC産品的安全風險特别關注并非新鮮事。早在2021年，中央網信辦已經聯同公安部提出要加強對語音社交軟體和涉深度僞造技術的網際網路新技術新應用安全評估。彼時其援引的法律基礎還是《具有輿論屬性或社會動員能力的網際網路資訊服務安全評估規定》。時隔兩年，對安全評估的監管強度有了顯著提升。各大AIGC産品開發商正在艱難地應對2.0版本的安全評估要求。
點選可檢視大圖
但關于2.0版本的安全評估（雙新評估）的出處，似乎處于實踐先行、立法滞後的狀态。在《生成式人工智能服務管理辦法（征求意見稿）》中，第六條曾有“利用生成式人工智能産品向公衆提供服務前，應當按照《具有輿論屬性或社會動員能力的網際網路資訊服務安全評估規定》向國家網信部門申報安全評估”的規定。雖然該條援引了安全評估1.0版本的法律基礎（即《具有輿論屬性或社會動員能力的網際網路資訊服務安全評估規定》），但卻将申報對象部門從原規定的“地市級以上網信部門和公安機關”提級至“國家網信部門”。是以，征求意見稿第六條曾被視為安全評估2.0的立法鋪墊。
然而，在最終頒布的版本中，關于安全評估的要求被替換為“提供具有輿論屬性或者社會動員能力的生成式人工智能服務的，應當按照國家有關規定開展安全評估”。對于此種表述，我們了解：
- “具有輿論屬性或社會動員能力的生成式人工智能服務”是“具有輿論屬性或社會動員能力的網際網路資訊服務”的子集，是以AIGC服務提供者應當滿足《具有輿論屬性或社會動員能力的網際網路資訊服務安全評估規定》的相關要求，包括申報1.0版本安全評估；
- “國家有關規定”并不局限于《具有輿論屬性或社會動員能力的網際網路資訊服務安全評估規定》。是以，AIGC服務提供者應當同時滿足其他适用法規的要求。如果其他适用法規提出類似的安全評估要求，則AIGC服務提供者也應當依法依規完成相關評估義務。
此外，“安全評估”的要求也同時在其他人工智能産業相關立法中出現：
- 《算法推薦管理規定》第二十七條：具有輿論屬性或者社會動員能力的算法推薦服務提供者應當按照國家有關規定開展；
- 《深度合成管理規定》第十五條：深度合成服務提供者和技術支援者提供具有以下功能的模型、模闆等工具的，應當依法自行或者委托專業機構開展：（一）生成或者編輯人臉、人聲等生物識别資訊的；（二）生成或者編輯可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物識别資訊的。
- 《深度合成管理規定》第二十條：深度合成服務提供者開發上線具有輿論屬性或者社會動員能力的新産品、新應用、新功能的，應當按照國家有關規定開展。
當不止一套“安全評估”體系同時存在，企業在了解上述法規時不免産生困惑。是以，我們謹對立法作出前瞻，未來中央網信辦或會就2.0版本的安全評估單獨頒布下位法或具體的評估規則，以消弭目前的法律基礎空白。
上文中，關于安全評估0.5、1.0以及2.0版本均由網信部門牽頭（雖然實操中1.0版本的安全評估多由公安部門推動，但網信部門也具備同等法定職權），但與之同時存在的還有工信部版本“安全評估”。
工信部版本的“安全評估”始于工信部于2017年釋出的《網際網路新業務安全評估管理辦法（征求意見稿）》。該辦法要求電信業務經營者對其網際網路新業務可能引發的網絡資訊安全風險應進行安全評估（是以該評估也稱為“雙新評估”。為避免疑義下文将使用“工信部版 ‘安全評估’”的稱呼）。該辦法雖未生效，但此後工信部陸續釋出了一系列通信行業網際網路新技術新業務資訊安全評估行業标準檔案（如下圖），使得工信部版本“安全評估”得以落地實施。
點選可檢視大圖
關于工信部版本的“安全評估”目前已經有相對成熟的服務流程，和受到市場認可的評估機構。值得關注的是，工信部版本的“安全評估”實質内容與網信版本安全評估2.0版存在大面積重疊，未來網信、工信、公安各部門是否會互相協調收歸監管口徑，統一監管尺度也值得期待。
綜上所述，目前關于安全評估的種種尚屬于霧裡看花，亟需監管部門的澄清與明确。但不置可否的是，現階段2.0版安全評估已經成為了AIGC産品上市前最頑強的一道壁壘。各家大模型廠商均已做好了持久戰的準備。而對于尚未着手準備申報的相關企業，我們建議其務必認真對待，盡早内部立項，積極調配負責人手，必要時引入外部律師共同推進。
結語
在AIGC産品上市的過程中，算法備案和安全評估是保障其合規性的重要環節。在上篇中，我們深入探讨了算法備案的流程、内容以及注意事項，同時詳細梳理了安全評估的曆史沿革和現狀。算法備案和安全評估作為産品上市前的關鍵環節，不僅在法律法規層面上確定了AIGC産品的技術安全和輸出内容安全，也是企業在境内人工智能賽道守法合規經營并保持長期發展的關鍵因素。
上述隻是AIGC産品上市合規之路的一部分。在下篇中，我們将繼續介紹AIGC産品上市所需的資質證照和内控措施，進一步探讨如何制定和執行有效的合規政策，以期幫助企業搭建一個牢固的合規架構，為AIGC産品上市保駕護航。
特别聲明
以上所刊登的文章僅代表作者本人觀點，不代表北京市中倫律師事務所或其律師出具的任何形式之法律意見或建議。
如需轉載或引用該等文章的任何内容，請私信溝通授權事宜，并于轉載時在文章開頭處注明來源于公衆号“中倫視界”及作者姓名。未經本所書面授權，不得轉載或使用該等文章中的任何内容，含圖檔、影像等視聽資料。如您有意就相關議題進一步交流或探讨，歡迎與本所聯系。