引言：

此前，复旦大学教授孙金云对打车软件进行专项调研，根据打车800多次的调研分析报告，用苹果手机打车更容易被专车、优享这类更贵车型接单；其他类型的手机，手机价格越贵，越容易被更贵的车型接单，对应打车价格也就更高。类似情形在日常生活中并不少见。用户注册成为平台的高级会员，在购买相同产品或服务时，不仅未享受优惠，反而会比普通用户支付更高的费用。用户在软件上浏览某一类商品后，后续将被持续推荐类似商品的广告，干预甚至严重影响用户的自主选择。这类现象引发广泛关注和讨论，数据的规模化聚集发展使得企业能够构建更精确的用户画像进行精准个性化推荐，释放数据价值的同时提升社会治理和服务水平，与此同时，大数据杀熟、歧视定价、诱导沉迷、算法控制等成为数字化、智能化的反面典型，侵害用户权益的同时也扰乱市场竞争秩序。

针对算法运用乱象，2022年4月8日，中央网信办牵头开展“清朗·2022年算法综合治理”专项行动，整治算法滥用现象，推动《互联网信息服务算法推荐管理规定》（以下简称“《算法推荐管理规定》”）落地。《算法推荐管理规定》由国家网信办、工信部、公安部、市场监管总局四部门共同制定，于2022年3月1日正式实施，作为目前国内针对算法推荐技术的专门规范，《算法推荐管理规定》对算法推荐技术的运用提出了一系列专门规定，涉算法型互联网企业应予以重点关注。

一、何为算法推荐

算法的本义是指能够用来计算、解决问题和做出决定的一系列有条理的步骤。《算法推荐管理规定》第二条以列举的方式对算法推荐技术进行说明，包括生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术，算法推荐服务提供者利用算法技术向用户提供信息。例如常见的个性化推送类算法技术，平台通过用户注册和交互式界面收集的用户数据，构建用户画像，再向用户界面推送符合用户兴趣特点的内容，并结合用户反馈信息评估推荐效果，继续优化调整个性化推送内容。

以腾讯公司在互联网信息服务算法备案系统公示的微信看一看个性化推送算法为例，该算法基于用户浏览记录、关注公众号、用户在看内容等数据，通过机器学习AI算法，综合筛选用户可能感兴趣的内容，以实现信息个性化推荐。

二、算法企业的三类行为义务

《算法推荐管理规定》对算法服务提供者义务的规定，按企业应履行的行为强制与否主要可分为应当主动完成的行为、禁止从事的行为、鼓励采取的行为三类：

（一）应当主动完成的行为

·定期审核、评估、验证算法机制机理、模型、数据和应用结果。

·建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序。

发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输。

·发现违法信息的，应当立即停止传输，采取消除等处置措施，防止信息扩散，保存有关记录，并向网信部门和有关部门报告。

·发现不良信息的，应当按照网络信息内容生态治理有关规定予以处置。

·加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则和用户标签管理规则，不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息。

·加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息。

·提供互联网新闻信息服务的，应当依法取得互联网新闻信息服务许可，规范开展互联网新闻信息采编发布服务、转载服务和传播平台服务。

·应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。

·应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。

·算法推荐服务提供者应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能。

·应当设置便捷有效的用户申诉和公众投诉、举报入口，明确处理流程和反馈时限，及时受理、处理并反馈处理结果。

（二）禁止从事的行为

·不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。

·不得生成合成虚假新闻信息，不得传播非国家规定范围内的单位发布的新闻信息。

·不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发，不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施影响网络舆论或者规避监督管理行为。

·不得利用算法对其他互联网信息服务提供者进行不合理限制，或者妨碍、破坏其合法提供的互联网信息服务正常运行，实施垄断和不正当竞争行为。

（三）鼓励采取的行为

·综合运用内容去重、打散干预等策略，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响，预防和减少争议纠纷。

三、算法合规的规范程序

（一）建立算法管理制度

《算法推荐管理规定》第七条规定了算法推荐服务提供者的算法安全主体责任，要求算法服务提供者建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施，制定并公开算法推荐服务相关规则，配备与算法推荐服务规模相适应的专业人员和技术支撑。

（二）进行算法备案

《算法推荐管理规定》第二十四条规定了算法推荐服务提供者的算法备案义务：具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统（网址：）填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。

算法推荐服务提供者的备案信息发生变更的，应当在变更之日起十个工作日内办理变更手续。算法推荐服务提供者终止服务的，应当在终止服务之日起二十个工作日内办理注销备案手续，并作出妥善安排。

目前，国家网信办已公布了首批30条算法备案信息，包含微信、淘宝、抖音、微博、美团、快手等头部平台，涉及排序精选等多种类型的算法。算法备案是网络平台分级分类治理的表现之一，虽然目前就算法备案是否具有对抗效力、免责效力没有定论，但算法型企业宜尽快完成算法备案，在满足监管对网络安全规范治理要求的同时，也逐渐完善企业合规治理体系，树立良好的品牌形象。

（三）开展算法安全评估

《算法推荐管理规定》第二十七条规定具有舆论属性或者社会动员能力的算法推荐服务提供者应当按照国家有关规定开展安全评估。

《算法推荐管理规定》第八条规定算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果。

（四）针对特殊对象的专门保护规定

1.未成年人

《算法推荐管理规定》第十八条规定算法推荐服务提供者应当依法履行未成年人网络保护义务，并通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式，便利未成年人获取有益身心健康的信息。不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息，不得利用算法推荐服务诱导未成年人沉迷网络。

2.老年人

《算法推荐管理规定》第十九条规定算法推荐服务提供者应当保障老年人依法享有的权益，充分考虑老年人出行、就医、消费、办事等需求，按照国家有关规定提供智能化适老服务，依法开展涉电信网络诈骗信息的监测、识别和处置，便利老年人安全使用算法推荐服务。

3.劳动者

《算法推荐管理规定》第二十条规定算法推荐服务提供者向劳动者提供工作调度服务的，应当保护劳动者取得劳动报酬、休息休假等合法权益，建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法。

4.消费者

《算法推荐管理规定》第二十一条规定算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者公平交易的权利，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。

四、算法向上向善

数据要素随着新一代信息技术的发展已呈现聚集化、规模化、共享化趋势，决定数据价值的关键不再是数据采集，而是对相同数据进行分析得出不同层次结论的差异化的算法，“算法即权力”已然逐渐成为技术领域的共识，算法在数字经济发展中的作用和影响将会越来越重要。与此同时，算法作为人为设计的分析决策方式，具有利益倾斜的天然倾向，放任随意发展必然会损害社会的公平秩序。因此，在通过算法利用数据发展经济的同时，需要坚持算法向上向善的原则，在发展数字经济和保护个人利益之间寻找平衡。涉算法型数据企业作为掌握专业技术而在市场交易中占据优势的主体，应主动做好算法运行程序的合规安排，防范算法安全风险，承担社会责任和使命。

本文编译者：

李传龙，德恒济南办公室律师；主要执业领域为诉讼与仲裁，企业投融资，不良资产，数据合规，企业常年法律顾问等。

声明：

本文由德恒律师事务所律师原创，仅代表作者本人观点，不得视为德恒律师事务所或其律师出具的正式法律意见或建议。如需转载或引用本文的任何内容，请注明出处。