算法推薦新規出台，有關部門将對服務提供者實施分級分類管理

1月4日，國家網信辦、工信部、公安部、市場監管總局等四部門釋出《網際網路資訊服務算法推薦管理規定》（下稱“《規定》”），自2022年3月1日起施行。

作為網絡安全法，資料安全法和個人資訊保護法的自然延伸，《規定》對誘導使用者沉迷的算法模型、流量造假、輿論引導、大資料殺熟、未成年人及老年人權益、勞動者工作排程等問題做出了相應規定。

《規定》明确，算法推薦服務提供者應公示算法服務原理、并向使用者提供不針對其個人特征的選項。《規定》也強化了内容生态治理，特别強調了對“具有輿論屬性或社會動員能力”的算法推薦服務的監管，這類算法應向相關部門備案并開展評估。

有專家認為，這部新法不僅是算法技術法治化程序的重要指引，而且還将成為配合個人資訊保護法、電子商務法等其他法律在算法判定方面的解釋與指南。但與此同時，也有專家指出，在監管算法的同時，也需要考慮保護新技術的創新性，《規定》的一些條文在實施的過程中可能會較為模糊，或許會導緻治理環境偏向嚴厲，進而抑制創新。

1

明确提出鼓勵提高算法透明度

南都記者了解到，《規定》适用于應用算法推薦技術提供網際網路資訊服務——應用算法推薦技術是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、排程決策類等算法技術向使用者提供資訊。

其中《規定》對提高算法透明度做了具體要求：第十二條和第十六條分别明确，鼓勵算法推薦服務提供者優化檢索、排序、選擇、推送、展示等規則的透明度和可解釋性；算法推薦服務提供者應當以顯著方式告知使用者其提供算法推薦服務的情況，并以适當方式公示算法推薦服務的基本原理、目的意圖和主要運作機制等。

對此，中國政法大學教授朱巍認為，對于算法的監管，其基礎就是算法公開。個人資訊保護法第24條規定，算法可能對“個人權益有重大影響決定的”，個人有權要求平台做出說明。從個人資訊保護法角度看，算法的公開有一定的限制性條件，并非是網絡平台的主動公開。不過，實踐中哪些領域屬于“對個人權益有重大影響”的範圍目前并不清晰，缺乏可操作性。而《規定》鼓勵平台對算法的主動公開，可以配合個人資訊保護法依申請公開的規定，讓算法公開透明。

中國社科院科學技術和社會研究中心主任段偉文則提出，平台除了在對使用者公開透明外，也應該對其平台中的勞動者公開透明。他認為，勞動者和平台之間存在一種“合同”，和平台針對消費者、使用者的銷售、分發行為不同，勞動者和平台之間存在着更大的利益關聯，是以對于算法推薦服務的知情權應該更大。但他同時指出，雖然要求算法透明的要求是合法的和必要的，但在技術層面卻未必是充分的和完全可行的，因為一個不能忽視的事實是，不論是否借助技術手段，任何形式的認知都存在模糊性，人們對世界的解讀和解釋也總是有一定的模糊性。

在告知使用者方面，《規定》不僅要求告知使用者算法機制，也要求提示使用者由算法生成的内容。近些年，随着“深度僞造”等技術不斷發展，濫用問題也越來越突出，甚至被不法分子利用。第九條規定，發現未作顯著辨別的算法生成合成資訊的，應當作出顯著辨別後，方可繼續傳輸。

2

新增新聞服務和反壟斷相關規定

《規定》也強化了内容生态管理，要求算法推薦服務提供者不得利用算法虛假新增賬號、虛假點贊、評論、轉發或實施屏蔽資訊、操縱榜單等行為。

此外，《規定》第八條要求算法推薦服務提供者應當定期稽核、評估、驗證算法機制機理、模型、資料和應用結果等，不得設定誘導使用者沉迷、過度消費等違反法律法規或者違背倫理道德的算法模型。

對此，段偉文認為，這一條款或許會對短視訊内容分發平台造成較大的影響，而具體操作中也較難把握。

“究竟在什麼情況下，（算法推薦服務者）屬于誘導使用者沉迷、過度消費？這其中的門檻值是需要規定的，而這一法規在實施過程中，依然有可能是事件推動的，可能對于造成過較大影響的事件有強度更大的懲罰。”他認為，如果客觀上将事件作為監管依據，有利于對内容推薦算法合規形成外部壓力；同時，也可能會産生“寒蟬效應”，對短視訊已有的算法模型形成不确定性沖擊。

南都記者注意到，與去年8月網信辦釋出的《網際網路資訊服務算法推薦管理規定（征求意見稿）》相比，正式出台的《規定》新增了對于提供網際網路新聞資訊服務的具體要求。

《規定》第十三條規定，算法推薦服務提供者提供網際網路新聞資訊服務的，應當依法取得網際網路新聞資訊服務許可，不得生成合成虛假新聞資訊，不得傳播非國家規定範圍内的機關釋出的新聞資訊。

朱巍認為，該條将對時政新聞和評論的算法推薦産生影響。“要考慮很多的因素，包括資質、資訊源的合法合規性，都是需要考慮的一個必要的門檻。如果連這個都沒有的話，那肯定不能用算法推薦。”

段偉文認為，該條會對自媒體行業造成一定影響。“（非國家規定範圍内的機關）也是一個比較含糊的詞，任何機關釋出的内容都可以被稱為資訊，但這些資訊是否可以被稱作新聞呢？什麼叫做非官方資訊呢？這加大了自媒體行業傳播資訊的風險，如果資訊來自于非官方，自媒體就更需要考慮資訊傳播的後果。”

除此之外，正式出台的《規定》還新增了反壟斷相關規定。第十五條規定，算法推薦服務提供者不得利用算法對其他網際網路資訊服務提供者進行不合理限制，或者妨礙、破壞其合法提供的網際網路資訊服務正常運作，實施壟斷和不正當競争行為。

在朱巍看來，在算法加持下的平台經濟體系中，算法已經成為巨型平台攫取壟斷利益或進行不正當競争的手段。依靠算法實施不正當競争行為的平台大都具有市場壟斷地位，是以，算法競争秩序在當下也成為平台反壟斷的重要規制範圍。

3

明确禁止利用算法“殺熟”

在使用者權益保護方面，除向使用者告知解釋算法機制、給使用者提供非個性化推薦選項外，《規定》對特定群體的權益問題做了具體規定。

首先是對未成年人的保護。第十八條規定，算法推薦服務提供者不得向未成年人推送可能影響未成年人身心健康的資訊，不得利用算法推薦服務誘導未成年人沉迷網絡。

對老年人的保護則側重于适老和防詐騙。第十九條提出，充分考慮老年人出行、就醫、消費、辦事等需求，按照國家有關規定提供智能化适老服務，依法開展涉電信網絡詐騙資訊的監測、識别和處置。

随着平台經濟的發展，靈活用工的勞動者群體的生存狀态在近年來受到廣泛關注。與之相伴的，還有對平台算法的關注甚至質疑。《規定》明確定護勞動者報酬、休息休假等合法權益，要求算法推薦平台建立完善平台訂單配置設定、報酬構成及支付、工作時間、獎懲等相關算法。

不過，段偉文提出了自己的擔憂。他認為，勞動者權益保護無法全權交予平台，其核心問題是零工經濟，需要社會化的保險機制。不能僅依靠平台承擔勞動者的權益保護責任，這也超出了平台能力。

與個人資訊保護法一樣，《規定》也明确禁止“大資料殺熟”。第二十一條規定，算法推薦服務提供者不得根據消費者的偏好、交易習慣等特征，利用算法在交易價格等交易條件上實施不合理的差别待遇等違法行為。

算法規制為何如此強調使用者權益？朱巍認為，從算法應用最終對象來看，廣大網民是算法适用的直接對象。網民涉及算法的權利主要有人格尊嚴權、自我決定權、隐私權與個人資訊、知情權、查詢權等，涉及民法典、消費者權益保護法、個人資訊保護法等多部法律。而這些權利基礎，在網絡實踐中很多都是通過算法的方式表現出來，比如，對某款商品或服務的選擇推薦、對感興趣内容的揀選決策、對個人興趣點的設定偏好等。

他認為，這部新法不僅是算法技術法治化程序的重要指引，而且還将成為配合個人資訊保護法、電子商務法等其他法律在算法判定方面的解釋與指南。

4

建立算法分級分類安全管理制度

值得注意的是，《規定》還對具有輿論屬性的平台算法做出了特别要求——具有輿論屬性和社會動員能力的算法推薦服務提供者應依法進行安全評估和備案。

為何對輿論屬性的平台算法做出特别規定？朱巍分析，從性質上說，算法屬于知識産權和商業秘密，但從運作規則和表現方式上看，算法本質屬于網絡服務與行為規則。尤其網際網路具有天然的大衆傳播屬性，一些會涉及公衆知情權、公共利益和國家安全方面的問題，這是具有輿論屬性的平台算法備案的原因。而根據網絡安全法以及2018年國家網信辦和公安部聯合釋出的《具有輿論屬性和社會動員能力的網際網路資訊服務安全評估規定》要求，算法納入評估範圍可能包括論壇、微網誌、短視訊、直播、公衆号等多類别産品和服務。

朱巍認為，《規定》對算法推薦資訊的規制，展現了算法的價值觀不能遊離于現實法治之外。“從實踐來看，很多低俗、庸俗和媚俗的短視訊、公衆号等資訊最容易形成‘爆款’，很難根治的核心原因，不僅在于内容生産本身，更在于算法的推波助瀾。有什麼樣的算法，就有什麼樣的内容，有什麼樣的使用者，就會出現什麼樣的算法。這種算法、人群與内容之間互相影響的邏輯關系，将從算法本身被徹底打破。”他說。

然而，在管理算法帶來的問題的同時，也需要保護其發展空間。段偉文認為，解決算法的問題需要考慮比例性原則。他以大資料殺熟和算法歧視為例，其帶來的實質性傷害難以從法律層面，或是在現實生活中界定，而在對新技術進行規制的同時，需要考慮到對其創新性的保護，促進整體财富的增長。

此外，段偉文也提到，在算法審計和問責中也應該意識到，即使開發者沒有歧視的目的，由于資料和算法會強化定見和偏向、放大既有的差異和差別，也可能産生意料之外的偏向。

“這個規定應該是在倡導企業向善。目前來看，《規定》在實施的過程中可能較為模糊，可能會在一段時間使治理環境偏向嚴厲。”段偉文說，“這展現了管理者對于問題的重視。從長遠來看，随着治理經驗的積累，應會綜合考量實際效果，作出必要的動态調适。”

《規定》第二十三條還提出，網信部門會同電信、公安、市場監管等有關部門建立算法分級分類安全管理制度，根據算法推薦服務的輿論屬性或者社會動員能力、内容類别、使用者規模、算法推薦技術處理的資料重要程度、對使用者行為的幹預程度等對算法推薦服務提供者實施分級分類管理。

此外，在《規定》作為法律條文的同時也提到了倫理審查，第七條規定，算法推薦服務提供者應當落實算法安全主體責任，建立健全算法機制機理稽核、科技倫理審查等管理制度和技術措施。

段偉文認為，這是一種“标本兼治”的路徑：“現在許多算法帶來的問題其實仍處于在模糊地帶，從标本兼治的角度來講，加強算法的倫理意識、通過科技倫理審查，可以減少算法對消費者的傷害和歧視。而科技倫理意識、科技倫理審查等制度化建設，有助于為科技創新建構倫理軟着陸機制。”

“任何颠覆性的創新都有倫理矯正與回調的過程。科技倫理和法律治理的關鍵在于尋求創造性的中間方案，并根據科技創新的複雜性與不确定性進行整體權衡與實時調節。”他說。

采寫：南都記者李娅甯 見習記者胡耕碩