今天推出濱江區人民檢察院第一檢察部四級進階檢察官潘菲的薦書稿《探究人工智能時代的算法治理》。
《人工智能時代的算法治理：機制與
方案》
❖
推薦人：濱江區人民檢察院
第一檢察部四級進階檢察官
潘菲
《人工智能時代的算法治理：機制與方案》一書，是北京大學法學博士，對外經濟貿易大學法學院副教授、碩士生導師、院長助理，對外經濟貿易大學數字經濟與法律創新研究中心執行主任張欣所撰寫。該書以人工智能時代的算法治理為核心關注，以算法基礎權利、算法治理工具、算法治理路徑、算法應用場景以及算法規制圖景中的軟法治理為落腳點，凝練算法治理的發展機理，厘清治理層面存在的核心問題，并相應提出治理方案。
1
算法基礎權利
算法解釋權是最具代表性的新型算法權利。該書聚焦于兩項最具代表性，也是為大陸算法治理實踐所直接借鑒的算法權利：算法解釋權和免受自動化決策限制權。在建構本土化的算法解釋權時，建議明晰算法解釋權在算法治理中的地位和功用，厘清其行使要件和核心内容，以社會嵌入性和應用領域為基準探索精準化、場景化的衡量機制，打造内外兼具的技術協同治理機制。免受自動化決策限制權以保護人的主體性為首要宗旨，構築面向事後階段的算法風險消弭機制，成為個體對抗算法操控的重要防禦。大陸應在借鑒基礎上積極創新，擴充行權适用的決策類型，厘清對個人産生影響的判斷标準，建立面向資料生命周期的全要素配套行權機制，探索個體賦權之外的多元動态治理路徑。
2
算法治理工具
該書深入分析算法影響評估制度的建構機理與本土化方案，建議在建構本土化方案時，應當清晰認知算法技術行業發展與評估治理并舉的緊迫性，科學制定算法影響評估制度的建構規劃與基本路徑，使制度設計精細化并強化制度執行實效。算法審計制度彌合算法透明與專有技術保護之間的治理沖突，助力企業自我規制與政府規制的雙軌協同，推動法律、技術和倫理三元共治機制的有效落地。該書提出算法審計應以算法全生命周期為鍊條，分類分級地采取動态審計原則。基于多中心主體協同治理範式，算法審計可以分為由科技企業開展的内部審計、由監管機關和第三方開展的外部審計。圍繞算法安全綜合治理頂層設計，算法審計架構應由“總體風險的控制與治理”子產品以及“過程風險的控制與治理”子產品組成。
3
算法治理路徑
嵌套于平台治理架構之中，大陸通過為平台設定義務、界定平台責任，同時賦予個體權利的複合型思路尋求建立算法的初始化治理架構。該書深入剖析了三種治理路徑的形成機理、制度構造和治理效能。結合大陸的算法治理實踐和行業發展概況，提出大陸算法治理方案的完善應當秉持技術信任和治理信任同步推進，打造場景化和精細化的機制設計，同時有效聯結算法治理、資料治理和平台治理，穩步推進算法治理短期、中期和長期方案，逐漸邁向基于算法信任的智慧型治理。
4
算法應用場景的規制之道
通過控制底層代碼和塑造其運作的合法環境，大資料技術重新配置設定了資訊權力，對國家、政府和企業賦能。當算法技術擴充式嵌入行政實踐之時，軟體代碼和統計操作趨向于取代法律規則，形成了“自動分析、自動決策、自動執行”的算法行政系統。該書認為應明确算法行政須遵循合法、透明、問責、公正、必要的原則，實施算法影響評估制度和算法審計制度，将算法行政納入法治化發展路徑。在商業場景之下，結合大資料“殺熟”的技術原理和架構架構，應當以資料生命周期管理為視角，實作使用者、行業團體、監管機構和平台企業多方關聯、協同共治的監管格局。為治理算法性别歧視，應以算法公平理念為指引，以算法生命周期為節點有效開展歧視風險管理，結構性擴容反歧視規範體系并培育公平向善的算法運作生态。
在強化硬法規制的同時，在算法治理中堅持“硬法”與“軟法”的結合成為國際算法治理的核心共識。人工智能技術帶來的結構性挑戰推動了治理範式轉向以協同性、動态性、分層性、複合型為特征的“軟法”治理。人工智能技術标準作為重要的“軟法”治理工具有助于在技術開發早期嵌入倫理和價值要求，在應用和部署階段推動評估和認證制度的有效落地，在事後階段為人工智能技術和産品建構追溯和責任制度提供依據。未來應探索科學靈活的标準制定程式和多元智能的參與機制，借助新型人工智能合作夥伴關系提升标準化需求識别分析能力，建立完善議程設定協調機制，并着力推動人工智能治理标準化和法治化的良性銜接與融合。
編輯 | 孫家儀往期精選
- 劉逸凡：觸尋文人法學的三道掌紋
- 吳志華：治史求真，鑒往思來 ——讀《天朝的崩潰——鴉片戰争再研究》有感
- 杜文斌：曆史的回音，馬克思主義為什麼行——讀《火種：尋找中國複興之路》有感
- 龔赟燕：檢察能動履職的辯證思考 ——讀《司法能動主義》有感
- 胡森：知因識果，越過案件品質的“陷阱” ——讀佩德羅夫婦《冤案何以發生：導緻冤假錯案的八大司法迷信》有感
- 桑濤：理論的價值和生命力歸根到底在于實踐——讀《網絡犯罪二十講（第二版）》有感
- 邱生權：光榮與夢想—改革開放的風雨曆程與經驗啟示