“算法嚴監管”時代來臨：四部委新規劍指平台“大資料殺熟、二選一”

大資料時代下，算法成為連接配接人和虛拟世界的樞紐。而算法的不規範使用也導緻了算法歧視、資訊繭房、大資料殺熟、飯圈文化、誘導沉迷等問題。

1月4日，國家網際網路資訊辦公室、工業和資訊化部、公安部、國家市場監督管理總局聯合釋出《網際網路資訊服務算法推薦管理規定》（下稱《規定》），自2022年3月1日起施行。

值得注意的是，算法推薦服務被從網際網路應用中單獨剝離出來為其單獨制定管理規範，實屬國内首次。

北京高勤律師事務所合夥人王源對《華夏時報》記者表示：“算法一定程度上決定了資訊的内容，決定了使用者能看到了哪些資訊，将對輿論、價值觀産生影響。是以，算法單獨剝離出來進行規範是十分必要的。未來3年，算法将是一個被監管的重點。”

“對算法單獨剝離出來進行規範，即是規範算法推薦行業的客觀需求，也與國外實踐相一緻。”西南政法大學數字經濟與法治研究中心研究員鄧若翰告訴本報記者。

此外，《規定》還對“大資料殺熟、誘導沉迷、二選一”等問題做出了相應規定。

為何對算法單獨剝離出來進行規範？

算法被單獨剝離出來進行規範實屬國内首次。

據了解，目前算法推薦技術是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、排程決策類等算法技術向使用者提供資訊。但算法自身的特質導緻了一系列的問題。

算法根據使用者興趣将大量同質化内容被推送給使用者，使用者長期隻能擷取有限來源和單一傾向性的資訊，導緻使用者被束縛在“資訊繭房”中；而算法機制的不完善，導緻外賣騎手在算法的“逼迫”下，陷入了“送餐隻能越來越快、越來越不顧自身安全”的困局；而興起“電鍋測試”，則是暴露了電商平台上的算法歧視。

鄧若翰表示：“算法系統因其自身在形成、運轉和更新層面的諸多特質，其具有一定程度的獨立性。”

他從技術層面向記者指出：“機器學習算法的培育更多采用‘設計者輸入訓練資料，算法自主學習這些資料’的方式進行，是以，即使算法的設計者也僅能掌握輸入算法的資料，而無法把握算法學習的結果；其次，算法在營運過程中，通常會根據市場産生的新資訊和自身輸入的資料進行自我更新，進而保證其對于市場環境變化的适應性，但這也使得算法的更新和發展在一定程度上不受算法設計者和營運者的控制。而算法黑箱的存在使得算法的設計者和營運者僅能把握算法的輸入資料和輸出結果，而具體的分析和決策過程則難以被設計者和營運者知曉。”

“倘若不對算法進行單獨的規範，并針對算法系統的特征設計相應的監管措施和風險防範規則，那麼僅對算法營運企業進行限制的規制模式更多容易陷入‘隔山打牛’的窘境，即企業不僅不知道該如何限制算法，同時也傾向于将算法引發的問題歸咎于‘技術失靈’，進而免除自身的管理責任。”鄧若翰指出。

此外，鄧若翰還認為，“算法推薦引發的資訊繭房、思維誘導等問題已逐漸對整個社會公衆的輿論、文化和價值觀念産生影響，進而具有一定的公共屬性，這也是監管部門應直接對算法予以規制的重要原因。”

禁止“大資料殺熟、誘導沉迷、二選一”等

算法作為網際網路時代的産物，其雙刃屬性帶來了正反兩方面的影響，如何揚長避短，發揮其正面效果成為重點。

目前，我國已對網絡安全、資料安全、個人資訊安全等作出相關頂層設計。

在2020年印發的《法治社會建設實施綱要（2020-2025年）》中提出制定完善對算法推薦、深度僞造等新技術應用的規範管理辦法。而随後陸續出台了《網絡安全法》《資料安全法》《個人資訊保護法》等法律和《關于加強網際網路資訊服務算法綜合治理的指導意見》等政策檔案。

而此次《規範》從資訊服務規範和使用者權益保護兩方面制定了詳細的規定，避免算法的負面效果。

國家網際網路資訊辦公室有關負責人表示：“出台《規定》主要基于以下兩個方面的考慮：一是深入推進網際網路資訊服務算法綜合治理的需要。二是積極促進算法推薦服務規範健康發展的需要。”

針對“二選一”的問題，《規定》第十六條明确了算法推薦服務提供者不得利用算法對其他網際網路資訊服務提供者進行不合理限制，或者妨礙、破壞其合法提供的網際網路資訊服務正常運作，實施壟斷和不正當競争行為。

“大資料殺熟”的問題在第二十一條也作了明确規定，算法推薦服務提供者向消費者銷售商品或者提供服務的，應當保護消費者公平交易的權利，不得根據消費者的偏好、交易習慣等特征，利用算法在交易價格等交易條件上實施不合理的差别待遇等違法行為。

此外，對向未成年人、老年人、勞動者和消費者等主體提供算法推薦服務的，《規定》的第十八、十九、二十明确了具體要求，如不得利用算法推薦服務誘導未成年人沉迷網絡，應當便利老年人安全使用算法推薦服務，應當建立完善平台訂單配置設定、報酬構成及支付、工作時間、獎懲等相關算法，以及不得根據消費者的偏好、交易習慣等特征利用算法在交易價格等交易條件上實施不合理的差别待遇等。

算法驅動行業将迎來洗牌

“《規定》的出台意味着算法推薦相關行業開始邁入‘算法嚴監管’的時代。”鄧若翰表示。

以算法驅動的企業勢必要面臨成本提升和盈利被壓縮的情況。他表示：“《規定》提出的算法安全主體責任、算法評估驗證機制、資訊安全管理機制等算法管理機制以及算法解釋義務、自然搜尋結果提供義務等義務，必将在很大程度上提高算法驅動公司的合規成本。大資料殺熟、資訊繭房等問題的扼制亦在一定程度上限縮了算法驅動企業的盈利空間。”

“企業正從資料驅動向算法驅動的轉變，現在并不是資料掌握了多少，而是誰的算法更為先進、有效。”王源向本報記者點出此類企業的現狀。

如何尋找新的、規範化的盈利增長點亦成為擺在算法驅動公司面前的難題。

鄧若翰認為，“可以預見，相關公司必然将迎來‘陣痛’，在此期間，資金基礎薄弱的、營利模式不成熟的、算法系統不完善的企業可能面臨被淘汰的可能。”

鄧若翰還補充道：“《規定》的出台僅僅是走出了算法規制的第一步，其中算法評估驗證、算法解釋等部分機制存在規定較為模糊的問題。要充分發揮《規定》的制度功效，标準化必然成為下一步亟待解決的問題。譬如，算法推薦服務的‘基本原理’包括哪些，應解釋到什麼程度，‘适當方式’包括哪些方式等等，均有待進一步完善。”

貴州資料寶産品研究院院長李可順告訴《華夏時報》記者：“市場監督需要有效，必須企業整個營運過程及資料需要足夠透明。算法設計的技術多樣性、計算過程複雜，且部分算法解釋性差，無法足夠透明，會影響市場監督的有效性。”

不過，記者了解到，目前我國并沒有算法的相應标準和實施準則。是以，“算法規制”的時代已來，但仍還有很長一段路要走。

責任編輯：徐芸茜 主編：公培佳