2021年12月31日，国家互联网信息办公室、工业和信息化部、公安部和国家市场监督管理总局发布《互联网信息服务算法推荐管理规定》（以下简称“《算法规定》”），该规定将自
|
《算法规定》项下 算法推荐技术 |
互联网信息服务类型举例 |
|
利用生成合成类 |
互联网诊疗领域通过分析数据形成诊断意见 |
|
个性化推送类 |
电子商务网站向顾客提供个性化推荐信息服务 |
|
排序精选类 |
新闻资讯网站提供浏览排序的展示页面 |
|
检索过滤类 |
搜索引擎 |
|
调度决策类 |
自动驾驶系统根据路况信息数据推演行进方向 |
2022年3月1日起施行。《算法规定》适用于在中华人民共和国境内应用算法推荐技术提供的互联网信息服务（以下简称“算法推荐服务”）。 1
一、《算法规定》的场景适用
《算法规定》所称应用算法推荐技术，是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。我们试图从用户角度，就《算法规定》所列算法技术和日常接触的互联网信息服务进行如下对应：
二、基于多元价值体系的构筑
算法作为数据处理的规则，就其治理规范的制定很大程度上依赖掌握大量数据的公司，即从大公司的自我治理演化出来。 2《算法规定》的立法原则也体现了各相关主体的协作。即除成文法律法规外，还要求尊重社会公德和伦理，遵守商业道德和职业道德，遵循公正公平、公开透明、科学合理和诚实信用的原则。 3同时鼓励相关行业组织加强行业自律，建立健全行业标准、行业准则和自律管理制度，督促指导算法推荐服务提供者制定完善服务规范、依法提供服务并接受社会监督。 4
三、规则与技术的博弈兼顾
《算法规定》第二章规定了算法推荐服务提供者应当遵守的“信息服务规范”，具体列表如下：
|
原则 |
坚持主流价值导向，优化算法推荐服务机制，积极传播正能量，促进算法应用向上向善 |
|
不得利用算法推荐服务从事危害国家安全和社会公共利益、扰乱经济秩序和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动，不得利用算法推荐服务传播法律、行政法规禁止的信息，应当采取措施防范和抵制传播不良信息 |
|
|
具体规则 |
落实算法安全主体责任 |
|
建立健全如下方面的管理制度和技术措施：
|
|
|
制定并公开算法推荐服务相关规则 |
|
|
配备与算法推荐服务规模相适应的专业人员和技术支撑 |
|
|
其他技术措施 |
定期审核、评估、验证算法机制机理、模型、数据和应用结果等 |
|
不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型 |
|
|
发现违法信息的，应当立即停止传输，采取消除等处置措施，防止信息扩散，保存有关记录，并向网信部门和有关部门报告 |
|
|
发现不良信息的，应当按照网络信息内容生态治理有关规定予以处置 |
|
|
加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则和用户标签管理规则 |
|
|
不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息 |
由上表可看出，《算法规定》结合法律原则、具体规则和技术措施规定了算法推荐服务提供者须遵循的义务性规范。即使技术惯常被认为具有中立性，但由于算法可能隐藏的人为因素 5，《算法规定》力图嵌入到人为可引导算法的各个环节，并反观到技术本身要求采取相应技术性措施。
四、AI语境下的人本回归
《算法规定》专章规定了用户的权益保护。从互联网时代用户通过UGC生成内容，到大数据时代用户本身就是数据的缔造者和贡献者，用户始终在网络背景下扮演重要的角色。
根据《算法规定》 6，从保护用户权益角度，算法推荐服务提供者应遵循如下义务：
|
义务 |
用户权益 |
|
以显著方式告知用户其提供算法推荐服务的情况 |
知情权 |
|
以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制 |
知情权 |
|
向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项 |
选择权 |
|
用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务 |
反向选择权/拒绝算法推荐权利 |
|
向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能 |
选择权 |
|
应用算法对用户权益造成重大影响的，应当依法予以说明并承担相应责任 |
知情权 |
|
算法推荐服务提供者应当设置便捷有效的用户申诉和公众投诉、举报入口，明确处理流程和反馈时限，及时受理、处理并反馈处理结果 |
救济权 |
此外，《算法规定》针对未成年人、老年人、劳动者、消费者等在接受互联网信息服务中往往处于被动，而可能被界定为算法推荐服务提供的“弱势”对象，而给予了特殊的保护。 7
五、 监管初探
- 分级分类管理
类似于个人信息保护分类处理的原则，《算法规定》提出了网信部门会同电信、公安、市场监管等有关部门建立算法分级分类安全管理制度。《算法规定》规定，算法推荐服务分级分类管理会基于算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等进行规定。 8
- 备案制度9
2021年9月17日国家互联网信息办公室、中共中央宣传部、教育部、科学技术部、工业和信息化部、公安部、文化和旅游部、国家市场监督管理总局和国家广播电视总局发布了《关于加强互联网信息服务算法综合治理的指导意见》，其中要求有序推进算法备案工作。建立算法备案制度，梳理算法备案基本情况，健全算法分级分类体系，明确算法备案范围，有序开展备案工作。 10《算法规定》进一步明确如下备案细则：
|
备案主体 /适用情形 |
备案填报内容 |
备案时限 |
审批时限 |
法律责任11 |
|
具有舆论属性或者社会动员能力的算法推荐服务提供者 |
服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息 |
提供服务之日起十个工作日内 |
材料齐全的，三十个工作日内予以备案 |
|
|
备案信息发生变更 |
变更备案手续 |
变更之日起十个工作日内 |
||
|
算法推荐服务提供者终止服务 |
注销备案手续 |
终止服务之日起二十个工作日内 |
- 安全评估
就具有舆论属性或者社会动员能力的算法推荐服务提供者，根据《算法规定》，还应当按照国家有关规定开展安全评估。 12网信部门会同电信、公安、市场监管等有关部门对算法推荐服务依法开展安全评估和监督检查工作，对发现的问题及时提出整改意见并限期整改。 13我们理解就该等安全评估，未来应该会有具体细则出台，以便相关企业在执行层面的操作。
- 法律责任
根据《算法规定》，违反《算法规定》的相关行为会参照其他法律、行政法规承担相应法律责任。 14
就法律、行政法规未规定的情况，《算法规定》规定了如下行政责任和刑事责任 15：
- 由网信部门和电信、公安、市场监管等有关部门依据职责给予警告、通报批评，责令限期改正等处罚措施；
- 就拒不改正或者情节严重的，责令暂停信息更新，并处一万元以上十万元以下罚款；
- 构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。
*感谢“红板报”CEO赵晶先生对本文部分技术术语的释义
Footnotes
1《互联网信息服务算法推荐管理规定》第二条
2 详见《破茧》，湖南文艺出版社，2021年1月1日
3《互联网信息服务算法推荐管理规定》第四条
4《互联网信息服务算法推荐管理规定》第五条
5 详见张凌寒：《算法权力的兴起、异化及法律规制》，载《法商研究杂志》，2019年7月22日
6 详见《互联网信息服务算法推荐管理规定》第三章
7 详见《互联网信息服务算法推荐管理规定》第十八条至第二十一条
8《互联网信息服务算法推荐管理规定》第二十三条
9 详见《互联网信息服务算法推荐管理规定》第二十四条
10《关于加强互联网信息服务算法综合治理的指导意见》第三条第（九）项
11《互联网信息服务算法推荐管理规定》第三十三条
12《互联网信息服务算法推荐管理规定》第二十七条
13《互联网信息服务算法推荐管理规定》第二十八条
14《互联网信息服务算法推荐管理规定》第三十一条
15《互联网信息服务算法推荐管理规定》第三十一条、第三十二条
The content of this article is intended to provide a general guide to the subject matter. Specialist advice should be sought about your specific circumstances.
We operate a free-to-view policy, asking only that you register in order to read all of our content. Please login or register to view the rest of this article.