2022年4月8日，國家網信辦發出通知，牽頭開展“清朗·2022年算法綜合治理”專項行動，至今年年底，将重點檢查具有較強輿論屬性或社會動員能力的大型網站、平台及産品。通知中将“積極開展算法備案算法備案”作為主要目标之一。
數字經濟時代，算法的應用大大提升了資料處理的效率，但同時也出現了利用算法模型進行大資料殺熟、算法歧視、誘導沉迷、“将外賣員困在系統中”、影響輿論等有損市場秩序、不利于維護社會主義核心價值觀等不合理使用算法的負面事件。
為有效應對算法不合法或不合理使用導緻的諸多問題，2022年3月1日，《網際網路資訊服務算法推薦管理規定》（以下簡稱“《算法推薦規定》”）正式生效，提出了“算法備案”的新方案。
本文将從介紹全球主要的算法透明度治理模式出發，展示不同國家和地區算法治理的側重點和基本要求，并重點介紹大陸算法備案制度的具體要求，同時從比較法的角度，對未來大陸算法治理的新方向做簡要分析。
一、算法透明度主要治理模式之概覽
1. 歐盟：重視大型網絡平台和人工智能系統的算法透明度
2022年初，歐盟通過了《數字服務法案》，在《通用資料保護條例》的基礎上，對網絡平台尤其是超大型網絡平台的算法透明度提出了新的要求。
一方面，網絡平台應在服務條款中說明推薦算法系統的主要參數，參數資訊應以清晰明确的語言作出并以易于通路的形式公開提供；另一方面，歐盟委員會依職權要求查閱企業的算法及資料庫時，企業應提供完整的算法和資料庫并對其作出明确的解釋。
針對人工智能系統的算法透明度問題，歐盟委員會2021年4月釋出的歐洲議事和理事會《關于制定人工智能統一規則》（《人工智能法案》）的提案中，将不同應用場景的人工智能系統分成四種等級：不可接受的風險、高風險、有限風險和低風險，并為了保障高風險人工智能應用的算法透明度，進行了人工智能算法登記備案（Register）的制度安排。
根據該《規則》第51條和第60條的規定，歐盟建立獨立的高風險人工智能系統資料庫，高風險人工智能系統投放市場或投入使用之前，提供商或授權代表應在其中進行登記備案，并規定歐盟資料庫中包含的資訊應可供公衆通路。
2. 美國：強調對企業和政府機構不同的算法透明度要求
針對企業，主要關注商業消費領域的算法透明度。美國聯邦貿易委員會（FTC）在檔案《在公司使用人工智能中以信任、公平和平等為目标》中強調，公司應用算法應使用透明架構和獨立标準，并在使用人工智能之前和之後應定期測試他們的算法，以確定它不會基于種族、性别等進行歧視。
而在政府應用算法方面，為促進公衆接受并信任政府在決策中使用人工智能和算法技術，美國對行政機構和國防、情報部門應用算法進行詳細規範。
例如，美國行政會議（AC）在《政府機構AI使用指南》中規定，應公開确定算法流程的目标及其背後的理由，促進對機構基于人工智能的決策制定的内部或外部審查。
美國國防部（DoD）在《情報部門人工智能倫理架構》中要求確定算法透明度和可解釋性，根據情報部門的情報透明度原則，在可行的範圍内使用可了解和可解釋的方法，以便使用者、監督者和公衆酌情了解人工智能如何以及為何産生其輸出。
3. 英國、新加坡：通過透明度報告和算法審計落實算法透明原則
2021年5月21日，英國釋出《線上安全法草案》，針對政府公共機構使用人工智能算法系統推出了統一的算法透明度标準，同時，該草案第49條要求平台服務的提供者就其提供的每一項服務準備年度的透明度報告，并且報告中提供的資訊必須完整、準确。
2020年1月21日，新加坡個人資料保護委員會（PDPC）釋出第二版《模型人工智能治理架構》，确立人工智能算法“透明”和“以人為本”的指導原則。該架構在附錄部分對人工智能算法提出了審計要求，規定如果存在發現（Discover）模型中包含算法的實際操作的必要，則進行算法審計。
該架構要求算法審計必須在對該組織具有管轄權的監管機構（作為驗證調查的一部分）的要求下進行，或者由人工智能技術提供商執行，以確定算法的透明度。
4. 中國：保障自動化決策及算法推薦服務中的算法透明度
回到大陸的視阈，大陸強調個人資訊處理者自動化決策技術應用的算法透明度。立法上，《電子商務法》《個人資訊保護法》都對自動化決策進行了規定。
如《個人資訊保護法》第24條要求個人資訊處理者保證決策透明度、保證公平公正、實作平等交易。該條還規定了在個人資訊處理者作出對個人權益有重大影響的決定時，資訊主體擁有的“知情權”與“拒絕權”。
此外，2021年9月，國家網際網路資訊辦公室等九部委聯合釋出《關于加強網際網路資訊服務算法綜合治理的指導意見》（以下簡稱“《指導意見》”）的通知，要求利用三年左右時間，逐漸建立治理機制健全、監管體系完善、算法生态規範的算法安全綜合治理格局。
該綜合監管體系主要包括五個方面，分别是算法安全風險檢測、算法安全評估、科技倫理審查、算法備案管理和涉算法違法違規行為處置。
2021年年底，國家網信辦釋出《算法推薦規定》，作為大陸首部以算法推薦服務為規制對象的部門規章，該規定旨在規範通過算法技術向使用者提供資訊的行為，保護使用者的知情權、選擇權、拒絕權、救濟權，強化保障未成年人、老年人、勞動者、消費者在網際網路時代的權益。
其中，算法備案制度作為大陸算法透明度治理的新方案，同時也是算法綜合治理格局的重要一環，尤其值得關注。
二、大陸算法備案需要關注的重點問題
《算法推薦規定》首先明确規定了算法治理領域全球公認的監管原則之一：算法透明，而算法備案制度則将算法透明原則落到實處。《算法推薦規定》對算法備案制度的義務主體、應備案的算法技術、算法備案的内容、算法備案的公示、算法動态備案都進行了明确的規定，并創新性地規定了違規備案的行政法責任。
1. 哪些主體需要履行算法備案義務？
《算法推薦規定》第24條規定，需要備案的主體是“具有輿論屬性或者社會動員能力的算法推薦服務提供者”。首先，備案義務主體限定在算法服務提供者，排除了算法研發者、設計者和算法最終使用者（使用者）。其次，備案義務主體須具有輿論屬性或者社會動員能力。
根據網信辦2018年11月釋出的《具有輿論屬性或社會動員能力的網際網路資訊服務安全評估規定》，具有輿論屬性或社會動員能力的網際網路資訊服務，包括下列情形：
開辦論壇、部落格、微部落格、聊天室、通訊群組、公衆賬号、短視訊、網絡直播、資訊分享、小程式等資訊服務或者附設相應功能；
開辦提供公衆輿論表達管道或者具有發動社會公衆從事特定活動能力的其他網際網路資訊服務。
具體而言，微信、微網誌、抖音、豆瓣等應用即屬于具有輿論屬性或者社會動員能力的算法推薦服務提供者。
2. 哪些算法推薦技術需要備案？
具體而言，《算法推薦規定》規範的主要“應用算法推薦技術”包括生成合成類、個性化推送類、排序精選類、檢索過濾類、排程決策類等資訊服務。
生成合成類主要規範内容聚合、内容自動化生成及内容合成服務，包括利用深度學習、虛拟現實等技術，制作文本、圖像、音頻、視訊、虛拟場景等資訊，如語音合成、AI換臉、視訊自動剪輯、元宇宙等。
個性化推送類主要規範基于使用者畫像而進行的内容、商品或服務的個性化推送服務，如短視訊、新聞、廣告、禮包等推薦服務。
排序精選類主要規範内容服務提供者的版面頁面管理，諸如首屏、熱搜、精選、榜單、彈窗等。
檢索過濾類主要規範搜尋引擎、内容檢索、内容幹預等服務或行為，如搜尋引擎不良資訊過濾、敏感字詞識别。
排程決策類主要規範工作排程服務，諸如外賣、網約車平台等。
3. 算法備案包括哪些内容？
《算法推薦規定》規定，備案義務主體應當在提供服務之日起10個工作日内通過網際網路資訊服務算法備案系統填報服務提供者的名稱、服務形式、應用領域、算法類型、算法自評估報告、拟公示内容等資訊，履行備案手續。
根據網際網路資訊服務算法備案系統的訓示，企業填報資訊主要包括三部分：算法主體資訊、備案算法資訊、産品及功能資訊（見下圖）。其中應注意：在産品及功能資訊填報中企業須完成三個步驟，一是添加産品資訊，二是添加産品功能通路路徑，三是添加路徑下的功能資訊。
通過備案後，企業還可以根據業務變化進行變更備案資訊或登出備案。
4. 變更、終止算法服務是否需要備案？
算法推薦服務提供者的備案資訊發生變更的，應當在變更之日起10個工作日内辦理變更手續。企業可通過備案系統修改主體資訊、算法資訊、産品及功能資訊，但備案資訊修改後，網信部門将重新對其進行稽核。
算法推薦服務提供者終止服務的，應當在終止服務之日起20個工作日内辦理登出備案手續，并作出妥善安排。
5. 如何盡到算法服務釋明義務？
一方面，《算法推薦規定》要求算法推薦服務提供者應當以顯著方式告知使用者其提供算法推薦服務的情況，并以适當方式公示算法推薦服務的基本原理、目的意圖和主要運作機制等。另一方面，完成備案的算法推薦服務提供者應當在其對外提供服務的網站、應用程式等的顯著位置标明其備案編号并提供公示資訊。
關于算法推薦服務提供者對使用者的直接釋明義務，目前主要相關平台已作出回應。算法推薦服務釋明内容基本分為兩個方面：
一是個性化内容推薦；
二是個性化廣告推薦。
且大多數平台的公示内容都位于“設定”界面和與個人資訊保護有關的界面。
抖音的公示内容較為詳細。對于個性化内容推薦，抖音在《“抖音”隐私政策》中第1.5條說明了個性化推薦的功能、提供個性化推薦服務的範圍、為了預測偏好收集的資訊及機器計算、推薦模型的回報與優化。
對于個性化廣告推薦，在“設定”-“了解與管理廣告推送”部分分别介紹了程式化廣告和個性化廣告，且使用者可以分别關閉這兩種不同的廣告。
微信就個性化内容推薦服務在《微信隐私保護指引》“我們收集、使用的資訊”部分第1.34條說明微信将利用收集的資訊“基于特征标簽進行間接人群畫像并提供更加精準和個性化的服務和内容”。
同時，在“設定”-“隐私”-“個人資訊與權限”中設有“個性化廣告管理”，并有“了解微信個性化廣告的工作原理”一節介紹廣告投放的流程，且使用者可以關閉個性化廣告。
豆瓣在“設定”-“個人資訊保護”一覽設有專門的“個性化推薦與廣告”内容，其中較為詳細地介紹了算法推薦個性化内容以及算法推薦個性化廣告的基本機制和原理。同時，使用者可以選擇關閉個性化内容推薦設定和個性化廣告推薦設定。
微網誌則在公示内容上較為簡略。微網誌在“設定”-“隐私設定”-“個人資訊與權限”中簡要說明了個性化廣告推薦技術，未明确提及算法，也未對個性化内容推薦算法作出釋明，僅允許使用者關閉個性化廣告推薦和個性化内容推薦。
此外，微網誌在《隐私政策》檔案中提及使用者的“裝置資訊、IP位址、位置資訊、個人首頁資訊以及行為資訊”将用于個性化内容推薦。
綜上可知，由于目前尚處《算法推薦規定》實施的初期，暫不存在統一的執行标準，算法公示内容的詳略程度主要由算法推薦服務提供者自行把握。對于算法推薦服務者履行算法備案公示義務的标準和監管尺度，筆者也将持續關注。
6. 違規備案将面臨哪些後果？
第一，算法應該備案而未備案的法律責任。在企業未履行備案義務時，網信部門和電信、公安、市場監管等有關部門依據職責給予警告、通報批評，責令限期改正；拒不改正或者情節嚴重的，責令暫停資訊更新，并處1萬元以上10萬元以下罰款。
第二，算法備案瑕疵的法律責任。具有輿論屬性或者社會動員能力的算法推薦服務提供者通過隐瞞有關情況、提供虛假材料等不正當手段取得備案的，由國家和省、自治區、直轄市網信部門予以撤銷備案，給予警告、通報批評；情節嚴重的，責令暫停資訊更新，并處1萬元以上10萬元以下罰款。
第三，算法備案後的法律責任。基于算法備案的法律性質，即使算法活動經過合法備案，在其造成損害時仍應對損害承擔法律責任。監管機構對義務人送出的材料予以備案，僅代表義務人的備案行為有效，不對算法活動本身産生任何影響。若備案人利用已備案的算法損害使用者權益或社會公共利益，仍須承擔相應的法律後果，備案這一程式性的事實行為不會豁免其法律責任。
三、完善算法備案制度之展望
如前文所述，目前全球規定算法備案相關制度的國家仍然較少，主要經濟體采取事前備案方式的隻有歐盟和大陸。事實上，歐盟《人工智能法案》中僅特别規定了高風險人工智能算法的備案義務，但對備案的内涵、程式和意義均缺少具體規定，例如在确定哪些AI算法需要履行備案手續時是否需要考慮其本身的技術性質、應用場景、處理資料的敏感程度以及體量等。
而大陸的《算法推薦規定》則在《人工智能法案》的基礎上，改進并細化了算法備案的具體規則、法律後果，并使之與算法安全評估、算法檢查彼此勾連，形成了多元一體的算法監管架構。[1]
然而，《算法推薦規定》的頒布和生效仍隻是大陸算法治理的起點，尚須不斷發展與完善。
首先，對于算法備案的義務主體，未來應當進一步擴大。目前《算法推薦規定》完全針對算法服務提供者即市場主體，但未來在公共政府治理中，同樣可能需要适用工具性和人工智能算法，政府等管理機構使用算法同樣需要受到規制。
是以，應當借鑒美國對私營産業領域和公共政府領域算法的差別規制，以及英國對政府使用人工智能算法透明度的要求，未來對政府使用算法同樣實施算法備案制度，以加強算法的透明性和公衆接受度。
其次，就算法備案的範圍而言，應當采取适應算法技術發展的分類分級方式。歐盟在高風險人工智能領域設定算法備案義務，大陸要求備案的“算法”并不限于深度學習算法，而是拓展到生成合成類、個性化推送類、排序精選類、檢索過濾類、排程決策類等五類算法。
但随着算法更新疊代，對于特定算法類型的分類分級将減弱算法透明度治理的有效性。未來，大陸或許可以借鑒《人工智能法案》的做法，促使其向“工具性算法”和“人工智能算法”的分類和更寬泛的風險分級轉變。[2]
再次，放眼算法監管的全流程，應當細化相關規則，促進企業履行備案義務。在算法監管的全流程中，應當對算法初始備案和動态備案規則進行細化，進而平衡算法安全和算法發展。目前《算法推薦規定》僅粗略規定了變更、終止算法服務備案的流程，但在實踐中什麼時間、什麼情況下需要變更，仍有待釋明。
此外，《算法推薦規定》僅對企業施加了算法備案義務和責任，可探索對企業采取算法備案的激勵措施，促進企業積極備案、真實備案，保障算法備案制度的良性發展。
附：
1.許可、劉暢：《論算法備案制度》，載《人工智能》2022年第1期。
2.同上注。