南開大學陳兵：以算法治理為抓手，促進數字經濟發展

2022年1月12日，國務院印發《“十四五”數字經濟發展規劃》（以下簡稱《規劃》）。《規劃》指出，大陸數字經濟發展迅速，但依然面臨發展不平衡、不充分、不規範的問題，需要提高大陸數字經濟治理水準。應優化更新數字基礎設施，推進“雲網協同”和“算網融合”發展，加快建構算力、算法、資料、應用資源協同的全國一體化大資料中心體系。

作為網際網路建設和應用大國，大陸高度重視對網際網路領域各類行為及相關資料安全的規範，目前已形成包括《網絡安全法》《資料安全法》《個人資訊保護法》《網際網路資訊服務管理辦法》等多部法律法規在内的較為成熟的網絡、資料及算法的監管體系。《規定》作為上述法規體系的重要組成部分，與《規劃》中數字經濟發展應堅持公平競争、安全有序的基本原則相一緻，是貫徹落實中央關于網絡安全和資訊化工作戰略部署、推進網際網路資訊服務生态治理的重要舉措。《規定》的釋出為懲治算法亂象提供了明确且具有針對性和操作性的法律規範，對規範和促進數字經濟健康發展具有重大意義。

夯實安全發展底線，規範算法至善

《規劃》指出，在發展數字經濟的同時，還應牢牢守住安全底線，着力強化數字經濟安全體系。要增強網絡安全防護能力，提升資料安全保障水準，切實有效防範各類風險。其中算法治理作為數字經濟整體治理與系統治理的關鍵環節，不僅涉及市場治理，還涉及社會治理與國家總體安全。正如《規定》第六條明确規定，算法推薦服務提供者不得利用算法推薦服務從事危害國家安全和社會公共利益、擾亂經濟秩序和社會秩序、侵犯他人合法權益等法律、行政法規禁止的活動；第七條明确要求算法推薦服務提供者應當落實算法安全主體責任，建立健全資料安全保護和個人資訊保護等管理制度和技術措施。這在國家安全層面和個人資訊保護層面，均對算法推薦服務提供者提出了新的要求，為國家安全、社會公共利益、個人隐私等提供了重要制度保障。

在實踐中，算法推薦服務提供者往往會借助算法技術對消費者的資料進行分析整理，形成使用者模型或使用者标簽，并以此為基礎進行精準推送。使用者模型或使用者标簽雖然可以提高資訊推送效率，但是易形成“資訊繭房”，使使用者局限在自己熟悉的領域内，形成被動的知識積累，無法擷取全面、客觀的資訊；若将違法和不良資訊關鍵詞記入使用者興趣點或者作為使用者标簽并據以推送資訊，還可能會對使用者的身心健康産生不利影響。對此，《規定》第十條要求算法推薦服務提供者應當完善記入使用者模型的興趣點規則和使用者标簽管理規則，不得将違法和不良資訊關鍵詞記入使用者興趣點或者作為使用者标簽并據以推送資訊。

“以人為本”框定算法應用紅線

目前，受新冠肺炎疫情的影響，傳統行業的就業者難以便捷就業，而以平台經濟為基礎的靈活用工形式則吸引了大量的勞動者就業，緩解了民生壓力。外賣配送員、專車司機、網約家政等主體均依靠網際網路平台經濟擷取訂單，但這些勞動者的權益亦可能受到算法不合理的訂單配置設定、獎懲規則及工作時間安排影響，被迫延長工作時間、超出工作強度，或是無法正常接收訂單。對此，《規劃》指出，應當切實有效防範各類風險，建立完善相關算法，健全靈活就業人員參加社會保險制度和勞動者權益保障制度。《規定》第二十條規定，“算法推薦服務提供者向勞動者提供工作排程服務的，應當保護勞動者取得勞動報酬、休息休假等合法權益，建立完善平台訂單配置設定、報酬構成及支付、工作時間、獎懲等相關算法”。

同時，面對大陸老齡化社會的加速到來，《規劃》指出，優化基礎設施智能更新，應當充分滿足老年人等特殊群體的需求；強化數字經濟安全體系，同樣需要健全完善針對老年人等特殊群體的網絡保護機制。當下，随着人工智能技術的應用範圍擴大，整個社會都向着智能化方向不斷發展。但是對于老年人群體來說，由于學習能力不如年輕人，面對新興的算法推薦服務，可能難以有效掌握，故無法享受算法推薦服務所帶來的全新體驗，甚至随着智能化裝置不斷取代傳統裝置，也給老年人群體帶來了諸多不便。對此，《規定》第十九條規定，“算法推薦服務提供者向老年人提供服務的，應當保障老年人依法享有的權益，充分考慮老年人出行、就醫、消費、辦事等需求，按照國家有關規定提供智能化适老服務，依法開展涉電信網絡詐騙資訊的監測、識别和處置，便利老年人安全使用算法推薦服務”。

此外，由于未成年人尚未形成健全的價值觀，難以甄别紛繁複雜的各類資訊，易受網際網路不良資訊或應用服務的影響，尤其是網絡遊戲、短視訊等應用軟體導緻未成年人沉迷的事件頻發，引發了公衆的廣泛熱議。對此，《規劃》指出，應當健全完善針對未成年人等特殊群體的網絡保護機制。《規定》第十八條明确要求，算法推薦服務提供者應當依法履行未成年人網絡保護義務，提供适合未成年人特點的服務，便利未成年人擷取有益身心健康的資訊，不得向未成年人推送影響未成年人身心健康的資訊，并且不得利用算法推薦服務誘導未成年人沉迷網絡。

做好分類協同，提升算法治理水準

千人千面，個性化應用是算法的典型特征，依據算法應用所涉及的内容類别、輿論屬性以及使用者規模等因素，以及算法應用對網絡安全可能産生的風險大小，對社會産生的損害範圍及程度，對其進行分級分類的治理是目前算法治理的主流觀點和基本理路。如《規定》第二十三條明确了分級分類的差異化監管制度，要求網信部門會同電信、公安、市場監管等有關部門，根據算法推薦服務的輿論屬性或者社會動員能力、内容類别、使用者規模等要素對算法推薦服務提供者實施分級分類管理，更加全面地開展算法安全評估和監督檢查等各項工作。

為進一步應對算法千人千面、難以把握的“黑箱”屬性，《規定》第二十四條明确了算法備案制度，要求具有輿論屬性或者社會動員能力的算法推薦服務提供者應通過網際網路資訊服務算法備案系統填報服務提供者的服務形式、應用領域、算法自評估報告等資訊，履行備案手續。算法備案制度的建立有助于對算法推薦服務進行監管，更好地預防算法可能帶來的風險。

同時，《規劃》明确指出，為健全完善數字經濟治理體系，需進一步強化協同治理和監管機制，增強政府數字化治理能力，完善多元共治新格局。

根據《規劃》要求，規範算法應用，首先，應強化協同治理機制，加強政府内部不同部門之間的協同治理，應明晰主管部門、監管機構職責，強化跨部門、跨層級、跨區域協同監管，明确監管範圍和統一規則，加強分工合作與協調配合。《規定》第三條規定，參與算法推薦服務治理的部門除了國家網信部門，還包括電信、公安、市場監管等有關部門，《規定》指出，這些部門依據各自職責負責算法推薦服務監督管理工作，地方部門則依據職責負責本行政區域内的監管工作。然而，由于算法推薦服務往往具有跨區域、跨領域等特性，在監管過程中亦可能同時涉及多個監管部門或多個區域的地方監管部門，是以，為避免在監管過程中因職責交叉而導緻互相推诿的情況發生，還需建立跨部門跨區域的協同監管機制。

其次，應建立完善多元共治。《規劃》明确，要建立完善政府、平台、企業、行業組織和社會公衆多元參與、有效協同的數字經濟治理格局。

行業健康發展，一方面需要法律規範和政府監管形成外部限制，另一方面也需要行業自律。為此，《規劃》指出，要進一步推進行業服務标準建設和行業自律。為鼓勵算法服務行業形成行業自律，《規定》第五條明确強調，鼓勵相關行業組織加強行業自律，建立健全行業标準、行業準則和自律管理制度，督促指導算法推薦服務提供者制定完善服務規範、依法提供服務并接受社會監督，尤其對目前社會各界普遍關注的“大資料殺熟”“資訊繭房”等算法熱點問題及其法律責任進行了明确規範，為建立健全多元共治格局奠定制度基礎。

目前，大陸數字經濟的發展正站在新周期起點之上，數字經濟由高速增長階段轉向高品質發展階段。治理算法已成為保障和促進數字經濟高品質發展的重中之重，其不僅關乎數字經濟發展的效率，還涉及數字經濟運作的安全，為此，盡快制定出台安全規範、“以人為本”的覆寫算法應用全周期、全場景、全流程的分類協同治理機制及方式方法，已成為引導算法向善、激勵算法創新、釋放算法正效能的關鍵。

本網站轉載的所有的文章、圖檔、音頻視訊檔案等資料的版權歸版權所有人所有。如因無法聯系到作者侵犯到您的權益，請與本網站聯系，我們将采取适當措施。