24家互联网企业备案算法机制 如何影响用户和算法开发者?

8月12日,国家互联网信息办公室发布了关于互联网信息服务算法备案信息的公告。南都记者注意到,现在已经可以通过互联网信息服务算法备案系统(下称“系统”)查询到包括百度、腾讯、字节跳动、快手等多家境内互联网公司的信息服务算法名称及备案编号等相关信息。 1.png  算法备案的要求出自3月起施行的《互联网信息服务算法推荐管理规定》。此次共公开了30条网站和App的备案信息,涉及算法名称、算法类别、主体名称、应用产品、主要用途、备案编号等。   有专家表示,此举为监管部门设置了事前问责点,另一方面也减少了企业承担的风险。还有专家指出,这体现出国家对互联网信息服务,尤其是其中具有舆论属性、社会动力、或社会动员能力的算法推荐服务提供者的一种刚性的、问责式的、追责式的监管。 30家企业备案,旗下产品部分算法信息被公开  3月1日,国家网信办、工信部、公安部、市场监管总局等四部门施行《互联网信息服务算法推荐管理规定》(下称《规定》)。同日,互联网信息服务算法备案系统上线。   《规定》明确,应用算法推荐技术,是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。   生成合成类算法;指自动或辅助生成、编辑文本、图像、语音、视频等网络信息内容的算法,如利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息。   个性化推送类算法;专门针对特定用户进行特定推荐、个性化分发的一种算法。   排序精选类算法;指设置、调整网络信息内容排列顺序的算法,常用于生成热搜、榜单。   检索过滤类算法;指基于用户需求或法律要求,从可行的决策(推荐)方案中检索或过滤出合适的推荐结果,可用于自动识别敏感字词。   调度决策类算法;指自动或辅助生成供需匹配、供需调节、路径规划等调度决策结果,或提供调度决策依据的算法,常用于快递平台、出行平台。   根据《规定》,具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息,履行备案手续。   完成备案的算法推荐服务提供者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。值得注意的是,此次算法备案并未公开具体算法机制。   在国家网信办此次公开的境内互联网信息服务算法备案清单中,已有首批24家企业的30项算法在系统中进行了备案,包括新浪微博、快手、美团、百度等头部企业,对应的产品(如App、网站)所属行业则囊括了出行、电商、社交媒体和短视频类等等。 2.png图源:境内互联网信息服务算法备案清单(2022年8月)  北京科技大学文法学院副教授张凌寒指出,本次备案采取了头部企业先行的计划。互联网行业体量较大、用户较多的一些头部企业首先根据自身情况进行了算法推荐服务情况的摸底,对具有舆论属性或社会动员功能的算法进行了备案。   张凌寒进一步指出,算法备案制度本质是监管部门事前设置算法问责的问责点,用以确认算法推荐服务提供者是否履行了法律规定的各项义务,是否在算法的设计、运行和结果输出层面有主观过错。   “算法不单纯是一个计算程序,它更多地是跟个人信息、大数据是联系起来的。那么在这个基础之上,算法就是一个运作模式。而对算法监管来讲,它其中一个重要的基础就是要对算法进行备案,要对算法的原理、模型模式进行说明。” 中国政法大学传播法研究中心副主任朱巍说,“我一直在说一个观点,就是算法为王,数据次之——这个时代虽然是大数据时代,但是监管的抓手应该是在算法……算法备案是监管的基础。” 没有特别强调算法透明,指标还需后续细化  南都记者注意到,一家企业旗下的不同产品可能对应多个算法类别,即使是同一算法类别之中,也可能存在多个算法。   比如百度备案了检索过滤类和排序精选类两种算法类别,而检索过滤类又细分为百度内容安全算法和百度信息检索算法,前者用于防范和抵制违法信息及不良信息的发布及传播,后者旨在优化并提升信息检索结果及效果对用户检索需求的满足程度。   朱巍指出,算法备案除了给监管部门带来便利外,也减少了企业的风险。“因为按照这套逻辑,一旦出了问题,事先报备过了,对平台来讲的话,它是把风险降到最低点。”   不过,在中国社科院科技和社会研究中心主任段伟文看来,这次备案其实并没有特别强调算法的透明公开,更重要的目的是规范信息服务,强调消费者的权益和个人的基本权利,因此,算法备案并不能彻底解决公众关注的信息茧房问题。“它(算法备案)的目的是强调信息服务要符合主流价值观,而不是要缓解信息茧房。如果要避免数字时代的偏见,那就要加强对数字时代的认识,提升数字素养。”   朱巍也认为,目前的算法公开尚未明确具体的原理和相关指标。“《规定》里有一个条款明确,算法推荐服务提供者应用算法对用户权益造成重大影响的,应当依法予以说明并承担相应责任。在这个清单里面,我表面上是看不到(相关说明),特别是评估的部分,比如涉及到舆论属性、新闻属性和社会动员相关的东西的评估权重和指标,目前清单里都没有。”   但他对于未来算法备案制度的不断优化持乐观态度,“现在至少是有一个清单出来了,这是履行平台主体责任和网络监管责任的一个重要方面。指标、权重方面的规则可能后续还会持续增加。” 个人更易维权,算法开发规范化成工作常态  除了监管方和企业之外,有专家认为,这次算法备案对于个体,如算法服务的普通用户,以及互联网从业人员也有着不小的影响。   段伟文表示,对用户来说最直接的一点就是,当用户觉得自己的权益因某个算法受到了侵害,那么就可以依据算法备案去举报,算法备案的出现为法律诉讼提供了更多事实依据,使得用户能够更加方便地维护自己的权益。   谈及对算法开发人员的影响,段伟文表示,以往他们可能只要考虑到算法开发本身的工作,但随着算法备案系统的上线,对于信息服务的规范化的监管、配合等多项工作,都会逐渐进入到算法开发的生命周期之中,成为一个常态化的工作内容。   “首先,在将算法备案之后,他们在工作过程当中就会有一个自我提示,去审视是否存在问题;其次,因为已经备案,所以在出现特定的情况时,这些从业者也可以据此快速给出合理的解释,甚至在必要的时候及时报告监管部门。所以总的来说,这在一定程度上可以缓解监管的刚性,为行业带来积极影响。”他说。   此外,段伟文多次强调,算法备案是“行政备案,而非行政许可”,即行政备案并不代表对算法本身的许可,如果算法存在瑕疵,就还会需要新一轮的监管或评估。   因此他认为,算法提供者不应该仅仅被动地服从这些监管措施,而是要将刚性监管所带来压力和焦虑化作加强自律,提升行业标准。只有监管方和行业都找到一个平衡点,才能让互联网信息服务走向多主体协同共治的方向,使得双方都真正得到发展。

标签

发表评论