算法推荐将被网信办监管:不得实施流量劫持控制热搜,需公示算法推荐原理机制

经济观察报

发布时间: 08-2721:15经济观察报官方帐号,优质财经领域创作者

经济观察网 记者 周应梅 互联网平台将迎来最严算法推荐管理。8月27日,网信办公布了《互联网信息服务算法推荐管理规定(征求意见稿)》(以下简称“《算法推荐管理规定征求意见稿》”),要求提供算法推荐服务的平台要定期审核评估算法模型,不得实施流量造假、流量劫持,不得控制检索结果和热搜榜单,首页、热搜、弹窗等内容要符合主流价值导向,还需要向用户公示算法推荐原理机制。

最值得关注的一点是,国家网信部门将对算法推荐服务提供者实施分级管理,具有舆论属性或社会动员能力的算法推荐服务提供者需要进行备案,完成备案后还需要在平台公示。

除此之外,提供算法推荐服务平台还需要最大限度满足用户选择,例如为用户设置关闭算法推荐选项。算法推荐也需要有针对未成年人的适用模式,用算法进行劳动调度则需要确实保障劳动者权益。

算法推荐服务提供者,还不得根据消费者偏好,利用算法在交易价格等条件上实行不合理差别待遇等违法行为。算法推荐服务提供者还应当接受社会监督,设置便捷的投诉举报入口,及时受理和处理公众投诉举报。

涉及算法推荐的平台众多,包括餐饮外卖平台、短视频平台、电商平台、社交平台。《算法推荐管理规定意见稿》明确,算法推荐技术,是指应用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息内容。这也意味着涉及不同算法推荐技术的服务都将被纳入管理。

《算法推荐管理规定征求意见稿》依据《网络安全法》《数据安全法》《个人信息保护法》《互联网信息服务管理办法》等法律制定。

不得实施流量劫持和控制热搜 需公示算法推荐原理

首页、热搜、弹窗等内容要符合主流价值导向。要求加强算法推荐服务版面页面生态管理。算法推荐服务提供者应当,建立完善人工干预和用户自主选择机制,在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息内容。

算法推荐服务提供者应当坚持主流价值导向,优化算法推荐服务机制,积极传播正能量,促进算法应用向上向善。算法推荐服务提供者不得利用算法推荐服务从事危害国家安全、扰乱经济秩序和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动,不得利用算法推荐服务传播法律、行政法规禁止的信息。

不得实施流量造假和流量劫持。算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号,或者虚假点赞、评论、转发、网页导航等,实施流量造假、流量劫持。

不得控制检索结果和热搜。要求不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现,实施自我优待、不正当竞争、影响网络舆论或者规避监管。

需告知用户算法推荐原理机制。算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况,并以适当方式公示算法推荐服务的基本原理、目的意图、运行机制等。

需明确规则透明度和可解释性,避免争议和不良影响算法推荐服务提供者应当综合运用内容去重、打散干预等策略,并优化检索、排序、选择、推送、展示等规则的透明度和可解释性,避免对用户产生不良影响、引发争议纠纷。

设置关闭算法推荐选项 不得根据消费者偏好利用算法干涉交易条件

为用户设置关闭算法推荐选项。算法推荐服务提供者,应当向用户提供不针对其个人特征的选项,或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的,算法推荐服务提供者应当立即停止提供相关服务。

还应当向用户提供选择、修改或者删除用于算法推荐服务的用户标签的功能。用户认为算法推荐服务提供者应用算法对其权益造成重大影响的,有权要求算法推荐服务提供者予以说明并采取相应改进或者补救措施。  

算法推荐也需要有针对未成年人的适用模式,不得利用算法推荐诱导未成年人沉迷网络。算法推荐服务提供者向未成年人提供服务的,应当依法履行未成年人网络保护义务,并通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式,便利未成年人获取有益身心健康的信息内容。

算法推荐服务提供者不得向未成年人用户推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息内容,不得利用算法推荐服务诱导未成年人沉迷网络。

用算法进行劳动调度需要保障劳动者权益。算法推荐服务提供者向劳动者提供工作调度服务的,应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法,履行劳动者权益保障义务。  

不得根据消费者偏好,利用算法在交易价格等条件上实行不合理差别待遇等违法行为。算法推荐服务提供者向消费者销售商品或者提供服务的,应当保护消费者合法权益,不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实行不合理的差别待遇等违法行为。 

算法服务提供平台需备案 国家网信部门将进行分级管理

国家网信部门将对算法推荐服务提供者实施分级管理,具有舆论属性或社会动员能力的算法推荐服务提供者需要进行备案,完成备案后还需要在平台公示。

国家网信部门建立分类分级管理制度,根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据敏感程度、对用户行为的干预程度等对算法推荐服务提供者实施分类分级管理。  

规定要求,具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息,履行备案手续。 

完成备案的算法推荐服务提供者应当在其对外提供服务的网站、应用程序等显著位置标明其备案编号并提供公示信息链接。

算法推荐服务提供者的备案信息发生变更时,应当在变更之日起五个工作日内办理变更手续。算法推荐服务提供者终止服务的,应当在终止服务三十个工作日前办理注销备案手续,并作出妥善安排。

具有舆论属性或者社会动员能力的算法推荐服务提供者应当按照国家有关规定开展安全评估。

算法推荐服务提供者应当完善算法推荐服务管理机制,对算法推荐服务日志等信息进行留存,留存期限不少于六个月,并在相关执法部门依法查询时予以提供。  

国家和省、自治区、直辖市网信部门会同有关主管部门对算法推荐服务开展算法安全评估和监督检查工作,对发现的问题及时提出整改意见并限期整改。算法推荐服务提供者应当配合有关主管部门依法实施的安全评估和监督检查工作,并提供必要的技术、数据等支持和协助。

算法推荐服务提供者应当接受社会监督,设置便捷的投诉举报入口,及时受理和处理公众投诉举报。建立用户申诉渠道和制度,规范处理用户申诉并及时反馈,切实保障用户合法权益。

落实算法安全主体责任 定期评估算法模型

要求算法推荐服务提供者落实算法安全主体责任。建立健全用户注册、信息发布审核、算法机制机理审核、安全评估监测、安全事件应急处置、数据安全保护和个人信息保护等管理制度。同时制定并公开算法推荐相关服务规则,配备与算法推荐服务规模相适应的专业人员和技术支撑。

算法模型上,需要定期审核、评估、验证算法机制机理、模型、数据和应用结果等。算法推荐服务提供者不得设置诱导用户沉迷或者高额消费等违背公序良俗的算法模型。

在信息内容管理方面,需要建立健全用于识别违法和不良信息的特征库,完善入库标准、规则和程序。发现未作显著标识的算法生成合成信息的,应当作出显著标识后,方可继续传输。发现违法信息的,应当立即停止传输,采取消除等处置措施,防止信息扩散,保存有关记录,并向网信部门报告。

要完善用户模型兴趣点规则,不得设置歧视性或者偏见性用户标签。算法服务提供者,要加强用户模型和用户标签管理。需要完善记入用户模型的兴趣点规则,不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息内容,不得设置歧视性或者偏见性用户标签。

若违反以上条例,算法推荐服务提供者将受到国家以及各地网信部门的通报批评。拒不改正或者情节严重的,责令暂停信息更新,并处五千元以上三万元以下罚款。构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。

举报/反馈