用户可选择关闭算法推荐

近日,国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》(以下简称《规定》),自2022年3月1日起施行。国家互联网信息办公室有关负责人表示,出台《规定》,旨在规范互联网信息服务算法推荐活动,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益,促进互联网信息服务健康发展。

近年来,算法应用在给政治、经济、社会发展注入新动能的同时,算法歧视、“大数据杀熟”、诱导沉迷等算法不合理应用导致的问题也深刻影响着正常的传播秩序、市场秩序和社会秩序,给维护意识形态安全、社会公平公正和网民合法权益带来挑战。在互联网信息服务领域出台具有针对性的算法推荐规章制度,是防范化解安全风险的需要,也是促进算法推荐服务健康发展、提升监管能力水平的需要。

国家互联网信息办公室有关负责人指出,算法推荐服务治理需要政府、企业、社会、网民等多方主体共同参与,推动算法推荐服务公正公平、规范透明,促进算法推荐服务向上向善,营造更加清朗的网络空间。

问答

不得利用算法推荐服务诱导未成年人沉迷网络

国家互联网信息办公室有关负责人就《互联网信息服务算法推荐管理规定》相关问题回答了记者提问。

问:《规定》中所称应用算法推荐技术是指什么?

答:是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。

问:《规定》明确了算法推荐服务提供者的哪些信息服务规范?

答:算法推荐服务提供者应当坚持主流价值导向,积极传播正能量,不得利用算法推荐服务从事违法活动或者传播违法信息,应当采取措施防范和抵制传播不良信息；建立健全用户注册、信息发布审核、数据安全和个人信息保护、安全事件应急处置等管理制度和技术措施,配备与算法推荐服务规模相适应的专业人员和技术支撑；定期审核、评估、验证算法机制机理、模型、数据和应用结果等；建立健全用于识别违法和不良信息的特征库,发现违法和不良信息的,应当采取相应的处置措施；加强用户模型和用户标签管理,完善记入用户模型的兴趣点规则和用户标签管理规则；加强算法推荐服务版面页面生态管理,建立完善人工干预和用户自主选择机制,在重点环节积极呈现符合主流价值导向的信息；规范开展互联网新闻信息服务,不得生成合成虚假新闻信息或者传播非国家规定范围内的单位发布的新闻信息；不得利用算法实施影响网络舆论、规避监督管理以及垄断和不正当竞争行为。

问:针对群众普遍关心的用户权益保护问题,《规定》是如何规定的?

答:《规定》明确了对于算法推荐服务提供者的用户权益保护要求。

一是算法知情权,要求告知用户其提供算法推荐服务的情况,并公示服务的基本原理、目的意图和主要运行机制等。

二是算法选择权,要求向用户提供不针对其个人特征的选项,或者便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的,算法推荐服务提供者应当立即停止提供相关服务。算法推荐服务提供者应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能。

三是针对向未成年人、老年人、劳动者、消费者等主体提供服务的算法推荐服务提供者作出具体规范。如不得利用算法推荐服务诱导未成年人沉迷网络,应当便利老年人安全使用算法推荐服务,应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法,不得根据消费者的偏好、交易习惯等特征利用算法在交易价格等交易条件上实施不合理的差别待遇等。

问:《规定》对算法推荐服务提供者提供互联网新闻信息服务提出了哪些要求?

答:算法推荐服务提供者提供互联网新闻信息服务的,应当依法取得互联网新闻信息服务许可,规范开展互联网新闻信息采编发布服务、转载服务和传播平台服务,不得生成合成虚假新闻信息,不得传播非国家规定范围内的单位发布的新闻信息。

来源:中国网信网

分析

新增5条规定

结束征求意见三个月后,近日《互联网信息服务算法推荐管理规定》正式落地。对比征求意见稿,《规定》变化不小。

正式发布的《规定》共35条,增加了5条内容,涉及信息服务规范、用户权益保护等方面。

一是算法推荐服务提供者提供互联网新闻信息服务的,应当依法取得互联网新闻信息服务许可,规范开展互联网新闻信息采编发布服务、转载服务和传播平台服务,不得生成合成虚假新闻信息,不得传播非国家规定范围内的单位发布的新闻信息。

二是算法推荐服务提供者不得利用算法对其他互联网信息服务提供者进行不合理限制,或者妨碍、破坏其合法提供的互联网信息服务正常运行,实施垄断和不正当竞争行为。

三是算法推荐服务提供者向老年人提供服务的,应当保障老年人依法享有的权益,充分考虑老年人出行、就医、消费、办事等需求,按照国家有关规定提供智能化适老服务,依法开展涉电信网络诈骗信息的监测、识别和处置,便利老年人安全使用算法推荐服务。

四是算法推荐服务提供者应当设置便捷有效的用户申诉和公众投诉、举报入口,明确处理流程和反馈时限,及时受理、处理并反馈处理结果。

五是明确规定由国家互联网信息办公室会同工业和信息化部、公安部、国家市场监督管理总局负责解释。

删除1个提法

针对算法歧视、“大数据杀熟”、诱导沉迷等算法不合理应用导致的问题,《规定》明确,算法推荐服务提供者应当加强用户模型和用户标签管理,完善记入用户模型的兴趣点规则和用户标签管理规则,不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息。但删除了征求意见稿中,“不得设置歧视性或者偏见性用户标签信息”的提法。

提高处罚力度

正式发布文件的另一个变化在于,提高了算法推荐服务提供者违规的处罚力度。

《规定》明确,算法推荐服务提供者违反指定条款规定,拒不改正或者情节严重的,责令暂停信息更新,并处一万元以上十万元以下罚款。具有舆论属性或者社会动员能力的算法推荐服务提供者通过隐瞒有关情况、提供虚假材料等不正当手段取得备案的,由国家和省、自治区、直辖市网信部门予以撤销备案,给予警告、通报批评；情节严重的,责令暂停信息更新,并处一万元以上十万元以下罚款。

相较征求意见稿的5000元至三万元的罚金规定有了较大幅度提高。