当数字化与信息化的车轮迈入21世纪的20年代，我们正悄然进入一个“围绕算法逻辑而组织和运转的「算法社会」”。环顾四周，算法应用已渗透到我们的衣食住行和生产生活的方方面面，并逐步影响着商业和公共领域，成为企业数字化转型和“智慧政府”构建的重要推手。在我们享受算法应用带来的各种方便和福利时，算法歧视、算法霸权、算法黑箱、信息茧房等一系列问题愈演愈烈，日益威胁着个人权利、市场秩序和公共利益的实现。
“利用三年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局”。在中央九部门联合发文提出算法治理这一总体目标的短短三个月后，网信办联合工信、公安、市监部门出台了《互联网信息服务算法推荐管理规定》（“《算法推荐管理规定》”，将于2022年3月1日期施行），对内容推荐算法应用进行了专门规范。
出于篇幅考虑，本文分为上下两篇：上篇着眼于内容推荐算法应用的治理框架，下篇主要探讨算法推荐服务提供者的合规关注要点，此为上篇。
什么是算法推荐技术？算法推荐技术有哪几类？
算法本身是一种将输入的内容通过特定的步骤进行计算、处理，并将结果输出的计算方法。例如，我们在使用抖音、快手等短视频软件一段时间后，发现系统自动推荐的内容越来越符合我们的喜好，使用体验越来越“顺手”，这便是“个性化推荐”这类算法的功劳。短视频软件将我们的浏览信息、点赞信息、评论信息等数据通过预先设定好的算法进行分析，据此输出我们的“画像”或为我们打上“标签”，并基于画像或标签向我们推荐更符合我们喜好的信息内容。换句话说，软件通过算法分析，将会更“懂”我们。
依据《算法推荐管理规定》第2条对算法推荐技术的分类，我们总结了常见的五类算法推荐技术及其适用的功能场景：
为什么法律特别关注算法推荐？
随着计算机与人工智能技术的发展，算法提供方将预置算法的SDK或应用程序提供给互联网产品和服务提供商使用，这使得算法推荐深入到形形色色的商业场景中，有着广泛和多层级的受众。由于算法推荐的结果在很大程度上决定了什么样的人群能够接触到什么样的互联网内容，以及用户所能接触到的互联网内容的广度和深度，如果不对算法推荐机制或者推荐的内容进行审查，排除算法推荐机制造成的歧视与偏见，屏蔽违法和不良信息，可能会对用户的各项合法权利造成侵害，对正常的市场秩序、社会秩序与公序良俗也将产生重大破坏。
我国内容推荐算法应用的治理总体框架
2021年岁末，国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局快速跟进，在12月31日联合发布了《算法推荐管理规定》，提出了内容推荐算法应用治理的专门化方案，对算法推荐技术在互联网信息服务中的应用活动进行了较为详细的规制，就此翻开了互联网信息服务企业算法合规的新篇章。
在《算法推荐管理规定》出台前，我国现行法律体系并没有针对内容推荐算法应用进行较为系统性的规制，仅有部分法律法规从自身调整对象出发，通过零散的条文对于内容推荐算法进行了规范。《算法推荐管理规定》作为首部聚焦内容推荐算法应用治理的部门规章，对算法推荐服务建章立制，为监管提供了专项法律基础。
从规制领域来看，我国算法应用治理框架大致可以区分为以下几个方面：
（一）互联网内容监管
正如前面所提到的，内容推荐算法应用是用户接触互联网信息产品和服务的桥梁，用户所接触到的大部分互联网内容是经过算法应用筛选后呈现的，因此使用内容推荐算法应用提供互联网信息服务的提供者（“算法推荐服务提供者”）也应当承担互联网内容审核的义务，排查、屏蔽违法和不良信息，积极呈现符合主流价值导向的信息。
基于此，《算法推荐管理规定》第6、9、11条，以及《网络信息内容生态治理规定》第12条对算法推荐服务提供者提出了互联网内容审核、价值观引导的要求。国家发改委等九部委在2022年1月18日发布的《国家发展改革委等部门关于推动平台经济规范健康持续发展的若干意见》（“《平台经济发展若干意见》”）中也再次强调了这一要求。
（二）个人信息权益保护
对于以个人信息为基础输入条件进行计算处理的算法，例如目前应用极广的个性化推荐、精准营销、智能信贷风控等，受到了《中华人民共和国个人信息保护法》（“《个保法》”）的调整，个人信息权益保护方面的主要关注点在于保障个人信息主体的知情权、选择权以及投诉举报权等合法权益。
鉴于此，《个保法》第24条要求自动化决策类算法应用应保障个人信息主体的多项合法权益，并且对于个人权益有重大影响的决定，个人有权拒绝仅通过算法作出。而在App治理层面，《App违法违规收集使用个人信息行为认定方法》规定，利用用户个人信息和算法定向推送信息，未提供非定向推送信息的选项，属于“未经用户同意收集使用个人信息”，《移动互联网应用程序个人信息保护管理暂行规定（征求意见稿）》第8条也提出了类似的要求。这些要求都集中体现在了《算法推荐管理规定》的第17条中。
（三）反垄断与反不正当竞争
近年来，算法已经成为实施垄断行为及不正当竞争行为的常见途径之一，具体而言，主要包括以下情形：
- 平台利用市场支配地位，通过算法设定奖励和处罚措施，变相强制平台内经营者“独家合作”，实质上起到“多选一”的垄断效果；
- 经营者通过协商达成算法合谋，进行横向协同行动或纵向限制定价等；
- 经营者通过算法实施流量劫持、干扰、恶意不兼容等行为，打击竞争对手的产品；
- 经营者通过算法自动降流、屏蔽等方式减少竞争对手的交易机会等。
为了规制上述垄断或不正当竞争行为，《关于平台经济领域的反垄断指南》（“《平台经济反垄断指南》”）较为全面地针对前述行为进行了限制，而《算法推荐管理规定》第15条也提出了类似的要求。
（四）消费者保护与价格监管
大多数情况下，基于算法支撑的产品或服务供给的对象是各类网站和应用程序的终端用户和消费者，因此算法应用提供者应当注意保障消费者的合法权益，包括《中华人民共和国消费者权益保护法》规定的知情权、公平交易权，《中华人民共和国电子商务法》第18条规定的可选择权等。
在消费者保护领域，最受关注的问题是“算法歧视”，即基于个人信息、用户画像的差异化定价。在未公开差异化定价原理与机制，或者对同等条件的交易对象提供不同交易价格的情况下，差异化定价算法可能侵犯用户的知情权与公平交易权，构成“大数据杀熟”，而《算法推荐管理规定》第21条明确禁止该种行为。
参考资料：
中国信息通信研究院：《算法治理蓝皮书》
第29条工作组：《关于自动化个人决策目的和识别分析目的准则》
财经E法：《中国算法治理升级“2.0”》
【感谢实习生施羿言对本文的贡献】
