加强信息内容管理 督促指导算法推荐服务提供者建立健全服务规范

  • 商洛在线
  • 2021-09-08 10:26:56
  • 来源:中国电子报

不想再被怎么关也关不掉的APP弹窗广告困扰?不愿再在朋友圈看到自动推送的购物链接?厌倦了在手机上反复收到大量、类似题材的新闻消息?日,国家网信办发布了《互联网信息服务算法推荐管理规定(征求意见稿)》(以下简称为《意见稿》),剑指算法治理痛点。不少人欢呼,终于看到了摆脱被算法推荐“绑架”的曙光。

算法推荐褒贬不一

据不完全统计,基于算法的个化内容推送已超过整个互联网信息内容分发的70%。推荐算法已经在不知不觉中融入了我们工作、生活的方方面面。然而,业界对推荐算法的评论始终褒贬不一。

一方面,进入数字时代,算法成为挖掘数据价值的重要手段。其核心价值是把“人找信息”转变为“信息找人”,高效完成人与信息的匹配。算法越精准,台对用户行为惯、兴趣喜好的了解越深入,分发的内容也就越符合用户需求;而对于台而言,通过这种“投其所好”的方式也可以快速获取商业价值,实现“双赢”。也正因如此,推荐算法成为了主流的内容分发方式,也是各大台的“技术标配”。

另一方面,算法的重要特征是程序化和量化,从技术角度看是用一套分析数据和处理问题的程序指令或量化决策系统,来协助用户准确、快捷地寻找问题的解决方案,其背后往往隐含着程序设计者的某种“期望”。大量碎片化、快餐化、圈层化的信息流涌入,会使人逐渐丧失主动、独立思考的能力,迷失于“信息茧房”之中,并引发信息暴食、情绪传染、视野局限、大数据杀熟、隐私风险等诸多问题。

有业界人士曾表示:“算法容易让人去走极端,会把人搞得非常分裂。”不过,赛迪顾问大数据产业研究中心高级分析师姚学超对《中国电子报》记者表示:“实际上,算法本身是中立的科学计算模型,并无善恶之分。”真正的问题在于如何把握好其中的“度”,找出算法使用与用户权利保障之间那个微妙的衡点。

要让算法真正得其所用、用得其所,治理非常关键。“算法治理的难点在于如何衡自动化与人工干预之间的关系。”安恒信息首席科学家、高级副总裁刘博在接受《中国电子报》记者采访时指出。《意见稿》的推出正是为了探索算法治理路径,推动互联网信息服务行业健康、有序发展。

保护用户合法权益

此次发布的《意见稿》中明确提出,算法推荐服务提供者应当向用户提供不针对其个人特征的选项,或者向用户提供便捷的关闭算法推荐服务的选项;不得实施流量造假、控制热搜等影响网络舆论;外卖及网约车台对劳动者、消费者的双重算法需规范,保证劳动者算法的公正透明;抵制算法对消费者“大数据杀熟”等相关管理规定,为解决当下广受社会公众瞩目的焦点问题提供了指导意见。

“《意见稿》极大地提升了用户对互联网内容的自主选择权利,也会在一定程度上降低台对用户精准广告、精准营销的既得利益。”刘博表示,“这将对于依据算法提供服务作为商业模式的公司产生巨大影响。”

他认为,将算法服务作为核心商业模式的台将受到强监管。同时,有舆论属和社会动员能力的算法推荐服务商也是重点监管对象,比如算法推荐新闻类APP、短视频台等。此外,电商和向劳动者提供工作调度服务的台类算法推荐服务提供者同样会受到监管,比如打车、外卖台等。

上海财经大学商学院数字经济研究中心主任钟鸿钧同样认为,《意见稿》的出台,将对互联网数字经济的商业模式产生较大影响。“互联网台基于用户数据的‘野蛮生长’红利期已经过去了,需要在更加合规的环境下,进行调整和反思。”

姚学超指出:“对算法推荐服务提供者而言,《意见稿》明确提出了30项‘应当如何做’和11项‘不得做什么’的具体要求,细化了算法推荐服务提供者的行为边界、底线和红线,将塑造算法需向善的主流价值观。对用户而言,该意见稿将有效规范互联网企业应用算法的行为,有利于用户避免长期沉迷于某些推荐内容,也为用户合法权益保护提供了可靠的制度保障。”

尽管《规定》还处于征求意见的阶段,具体的施行日期还未确定,但可以预见的是,随着国家监管趋严,网络环境很快将迎来新一轮“净化”。值得关注的是,据字节跳动相关负责人透露,《意见稿》发布后,抖音和今日头条已进行系统升级,为用户明确提供了个化推送的关闭选择。后续,字节跳动将不断优化产品功能,提高用户信息保护水

把好算法推荐的“方向盘”

当前,算法推荐服务已经构建起一条完整的服务链,包括内容生产、数据采集分析、台推荐及服务反馈等。有观点认为,此次《意见稿》是从推荐形式和服务终端即用户层面出发,去打破算法推荐“围城”,但这还不够。下一步,仍需进一步细化相关管理制度,把好算法服务的“方向盘”。

一方面,算法推荐应转变设计思路,从“台主导”转变为“用户选择”模式。多位业内专家指出,以技术制约技术、以台限制台,应成为保护用户利益的思路。应当鼓励第三方机构通过数据技术测评各大台的算法推荐,弥补用户的技术缺陷。姚学超也谈到:“作为拥有海量用户数据和强大算法能力的互联网巨头,除了利用算法和数据进行商业变现,更应该利用算法和数据进行科技创新。”

另一方面,应该从算法提供、使用、监督三个方面全面推动行业健康发展,为互联网信息服务营造良好的氛围。刘博指出:“算法推荐服务提供者应当配合有关主管部门依法实施安全评估和监督检查工作,并提供必要的技术、数据等支持和协助。同时,应当落实算法安全主体责任,定期审核、评估、验证算法机制机理、模型、数据和应用结果,加强信息内容管理,建立健全用于识别违法和不良信息的特征库,加强算法推荐服务版面页面生态管理;用户应该积极通过投诉渠道和制度,投诉举报违法行为,切实保障自身合法权益;相关行业组织应加强行业自律,建立健全自律制度和行业准则,组织制定行业标准,督促指导算法推荐服务提供者建立健全服务规范、依法提供服务并接受社会监督。”(记者 宋婧)



推荐More