通过大数据“杀熟”实施不合理差别待遇,利用算法诱导用户沉迷网络、过度消费……当前,算法技术广泛渗入互联网应用,在给用户带来一定程度便利的同时,由算法引发的侵害用户权益问题也屡屡出现。
近日,国家网信办等四部门出台《互联网信息服务算法推荐管理规定》(以下简称《规定》),针对被诟病已久的问题提出明确要求。
《规定》对算法推荐技术作出明确界定,即利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。
算法和算法推荐曾一度是平台企业的“卖点”,“千人千面”在给消费者带来更具个性化使用体验的同时,也可能产生负面影响。《规定》明确,算法推荐服务提供者向消费者销售商品或者提供服务的,应当保护消费者公平交易的权利,不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。
在中国传媒大学文化产业管理学院法律系主任郑宁看来,这是对电子商务法、反不正当竞争法等法律的回应,剑指大数据“杀熟”行为。如何判断“不合理”的差别待遇是关键,可以参考《国务院反垄断委员会关于平台经济领域的反垄断指南》:基于大数据和算法,根据交易相对人的支付能力、消费偏好、使用习惯等,实行差异性交易价格或者其他交易条件;实行差异性标准、规则、算法;实行差异性付款条件和交易方式。符合上述因素,都可以认为构成差别待遇。
基于一些电商、出行、外卖平台存在的大数据“杀熟”行为,《规定》专门针对用户权益保护作出相关规定。接受《法治日报》记者采访的专家认为,这是《规定》最大的亮点。
《规定》要求,算法推荐服务提供者应当加强用户模型和用户标签管理,完善记入用户模型的兴趣点规则和用户标签管理规则,不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息。
郑宁提出,要求算法推荐服务提供者向用户提供选择或者删除标签的功能,赋予了用户更大的选择权和决定权。因为用户标签实际上是定制的依据,这加强了对用户标签的管理。此外,《规定》扩大了说明义务的适用场景:算法推荐服务提供者在应用算法对用户权益造成重大影响的情况下,适用于全过程。
北京盈科(重庆)律师事务所高级合伙人刘智说,《规定》针对向未成年人、老年人、劳动者、消费者等主体提供服务的算法推荐服务提供者作出具体规范。如不得利用算法推荐服务诱导未成年人沉迷网络,应当便利老年人安全使用算法推荐服务,应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法。
《规定》还明确,算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等,不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。
《规定》出台后对平台产生的具体影响是什么?记者就此采访了几个互联网平台。其中某通用信息平台相关负责人表示,公司将认真落实相关规定,目前在App中已提供了关闭个性化推荐选项。
在中国互联网协会法工委副秘书长胡钢看来,《规定》出台后,相关平台应从以下几个方面发力:
行正算,弘扬社会主义核心价值观,坚持主流价值导向,积极传播正能量,营造风清气正的网络空间;
惩滥算,持续加强监管震慑,既要“长牙齿”,也要“重咬合”,始终坚持对蓄意违反十二项“不得”规定行为的“零容忍”严打态势;
倡公算,引导算法应用公平公正、透明可释,充分保障网民合法权益,特别是保障未成年人、老年人、劳动者和消费者等弱势主体的权益与关切;
促同算,优化算法治理结构,建立网信、工信、公安、市场监管等部门协同联动长效机制,打造形成政府监管、企业履责、行业自律、网民维权、社会监督的多元共治局面;
致上善,算法发展安全可控、自主创新,引导算法应用向上向善,不断满足广大网民对美好数字生活的需要。