去芜存菁——“清朗行动”下的算法治理框架和应对

自动或辅助生成供需匹配、供需调节、路径规划等决策调度结果，或提供调度决策依据的算法

工作调度服务，如外卖配送、网约车平台自动接单、行车路线规划等

自动决策机制 ^[6]

自动化决策

指通过计算机程序自动分析、评估个人的行为习惯、兴趣爱好或者经济、健康、信用状况等，并进行决策的活动

常被使用于平台的价格歧视（大数据杀熟）行为

用户画像 ^[7]

通过收集、汇聚、分析个人信息，对某特定自然人个人特征，如职业、经济、健康、教育、个人喜好、信用、行为等方面作出分析或预测，形成其个人特征模型的过程

/

生成式人工智能（具有文本、图片、音频、视频等内容生成能力的模型及相关技术）

Text-to-Audio

根据文本生成声音

Text-to-lmage

根据文本生成图像

Text-to-Video

根据文本生成视频

Text-to-3D

根据文本生成3D模型

lmage-to-Text

根据图片生成文本（描述图片内容）

Text-to-Science

根据文本生成科学数据（梳理科学信息、生成词条查询、对所提问题作出知识性的回答、搜索特定的数学公式、建议引文）

Text-to-Code

根据文本生成代码

Text-to-Text

根据文本生成文本

Other

中国的算法治理框架是在监管机构对互联网信息服务、个人信息保护、反垄断、消费者权益保护等多个领域法律法规的基础上逐步建立起来的。这一框架围绕着算法技术的固有风险，以规范算法推荐技术的应用为切入点，力图保障国家安全、社会公共利益和个人合法权益，促进互联网信息服务的健康发展。治理的框架的主要层级大致包括：

1. 按照风险维度对算法进行分类分级管理

以算法推荐技术应用管理为抓手，并作为算法规制的统帅型法规《互联网信息服务算法推荐管理规定》中首次指出，网信部门将会同电信、公安、市场监管等有关部门建立算法分级分类安全管理制度，对算法推荐服务提供者实施分级分类管理。《生成式人工智能服务管理暂行办法》亦提出对生成式人工智能服务实行包容审慎和分类分级监管制度。

算法分类分级管理的初探由算法备案制度所体现。根据《互联网信息服务算法推荐管理规定》具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。

2. 坚持算法向善的主流价值导向和内容审核机制保障

《互联网信息服务算法推荐管理规定》强调算法推荐服务提供者应当坚持主流价值导向，优化算法推荐服务机制，积极传播正能量，促进算法应用向上向善。算法推荐服务提供者应当建立健全信息审核机制，排查、屏蔽违法和不良信息，积极呈现符合主流价值导向的信息。针对新闻这一特殊类别信息，《互联网信息服务算法推荐管理规定》要求算法推荐服务提供者应当依法取得互联网新闻信息服务许可。

同时，出于应对技术发展带来的生成式内容，《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》均要求对生成内容进行标识，且发现违法内容应当及时采取处置措施。

3. 延续个人信息保护

《个人信息保护法》通过处理个人信息的合法性基础环节，限制了算法技术在未获得合法基础的情况下擅自利用个人信息训练算法的可能性。同时，通过赋予个人信息主体对“算法决策的拒绝权”和“对算法结果解释说明”的权利，为个人权利受到侵害得到事后救济提供了法律保障。此外，第55条还规定了利用个人信息进行自动化决策的个人信息处理者，应当事前进行个人信息保护影响评估，并对处理情况进行记录的义务。相应的，《互联网信息服务算法推荐管理规定》要求，算法推荐服务提供者应当提高算法的透明度和可解释性，保障用户的知情权；算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项，严密响应《个人信息保护法》赋予个人信息主体的权利。

4. 加强用户权益保护

针对未成年人、老年人、劳动者等特殊用户，《互联网信息服务算法推荐管理规定》分别从保护未成年人身心健康，防护老年人遭受电信诈骗，防止劳动者遭受不公平待遇等角度出发保障特殊人群权益。针对一般消费者，《互联网信息服务算法推荐管理规定》亦要求算法推荐服务提供者应当保障消费者的知情权、公平交易权，不得实施“大数据杀熟”等不公平定价行为，不得诱导用户沉迷或过度消费。

5. 防止利用算法实施垄断或不正当竞争活动

《反垄断法》和《关于平台经济领域的反垄断指南》均明确将“利用数据、算法、平台规则等实现协调一致行为”纳入了达成横向垄断协议的方式之一，针对算法应用带来的“价格歧视”“差别待遇”“垄断”等问题提出了更明确的法律规制路径。《互联网信息服务算法推荐管理规定》亦要求算法推荐服务提供者不得利用算法实施自我优待、限制交易、提供差别服务等不正当竞争行为；不得利用算法达成垄断协议，排除、限制竞争。

6. 规制特殊网络信息服务中的算法应用

相较于《个人数据保护法》将“算法中的个人信息处理行为”作为规制重点，《电子商务法》主要针对网络经营行为进行规制，其针对平台算法的设计和部署提出了针对性的规定。《电子商务法》首次对网络交易平台中的算法应用进行调整，网络平台使用算法实现推荐、定价、搜索等功能落入了法律直接监管和干预的范围，并规定了违规使用算法所应承担的法律义务与责任。 《互联网信息服务深度合成管理规定》 还额外针对互联网应用商店服务提供者规定了提出了对深度合成应用程序履行安全管理的责任，其应当核验深度合成应用程序的安全评估、备案情况。

自2021年起算法技术及其应用纳入监管范围以来，法律法规、规范性文件及国家标准的颁布为算法提供了系统的治理框架、基本原则和主要规则。自此，监管部门以成文的监管规则为抓手同步开展常态化的行业自查、企业互查以及外部监察，搭建全方位、多层次、多主体参与的治理新格局。2023年全国两会政府工作报告并特别强调了“长效治理”概念，两会期间市场监管总局罗文在“部长通道”接受采访时，强调指出要使监管规则更加明确，执法程序更加清晰，提升常态化监管水平，特别是在数字经济、民生保障等重点领域，强化预防性监管，帮助提高企业合规管理水平。本次所发布的《通知》同样提出了“推动长效治理”的工作要求：要常态化开展算法服务安全风险监测防范工作，及时发现网站平台违规问题线索，并综合运用督促整改、现场检查、处置处罚等措施，提升算法常态化治理水平。通过回顾下述具备明确计划、重点的监管活动亦 可以预见，常态化监管将成为当前和未来算法治理中关键的制度和措施支撑 。