南开大学陈兵：以算法治理为抓手，促进数字经济发展

南开大学陈冰:以算法治理为抓手推动数字经济发展字体:大中小学校分享作者:南开大学陈冰:以算法治理为抓手推动数字经济发展2022-03-09 08:11:33来源:人民邮电2022年1月12日，国务院印发《数字经济发展第十四个五年规划》(以下简称《规划》) 规划指出，中国数字经济发展迅速，但仍面临发展不平衡、不充分、不规范的问题，需要提升中国数字经济的治理水平。 优化升级数字基础设施，推进“云网协同”和“计算网络融合”发展，加快建设计算能力、算法、数据、应用资源协同的国家一体化大数据中心体系。 中国作为互联网建设和应用大国，高度重视互联网领域各类行为和相关数据安全的规范。目前已经形成了比较成熟的网络、数据、算法的监管体系，包括网络安全法、数据安全法、个人信息保护法、互联网信息服务管理办法等法律法规。 《条例》作为上述法律体系的重要组成部分，与《规划》中数字经济发展公平竞争、安全有序的基本原则相一致，是落实中央网络安全和信息化战略部署、推进互联网信息服务生态治理的重要举措。 《规定》的出台，为惩治算法乱象提供了明确的、有针对性的、可操作的法律规范，对规范和促进数字经济健康发展具有重要意义。 夯实安全开发底线，规范算法做到最好。规划指出，在发展数字经济的同时，牢牢守住安全底线，着力加强数字经济安全保障体系建设。 要增强网络安全防护能力，提高数据安全水平，有效防范各种风险。 其中，算法治理作为数字经济整体治理和系统治理的关键环节，不仅涉及市场治理，还涉及社会治理和国家整体安全。 《规定》第六条明确规定，算法推荐服务提供者不得利用算法推荐服务从事危害国家安全和社会公共利益、扰乱经济秩序和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。第七条明确要求算法推荐服务提供者应当落实算法安全主体责任，建立健全数据安全保护、个人信息保护等管理制度和技术措施。 这在国家安全和个人信息保护层面对算法推荐服务商提出了新的要求，为国家安全、社会公共利益和个人隐私提供了重要的制度保障。 在实践中，算法推荐服务商往往利用算法技术对消费者数据进行分析和整理，形成用户模型或用户标签，并基于此进行精准推送。 虽然用户模型或用户标签可以提高信息推送的效率，但容易形成“信息茧”，将用户限制在自己熟悉的领域，形成被动的知识积累，无法获取全面客观的信息。如果将违法和不良信息关键词记录在用户的兴趣点中，或者作为用户的标签来推送信息，也可能对用户的身心健康产生不良影响。 对此，《规定》第十条要求，算法推荐服务提供者应当完善用户模型中记录的兴趣点规则和用户标签管理规则，不得将违法和不良信息关键词记录到用户兴趣点中或者作为用户标签推送信息。 “以人为本”的取景算法应用红线目前，受新冠肺炎疫情影响，传统行业的从业人员很难方便地找到工作，而基于平台经济的灵活就业形式吸引了大量劳动者找到工作，缓解了民生压力。 送货员、公交司机、家政等学科都是依靠互联网平台经济获取订单。但是，这些劳动者的权益也可能受到不合理的订单分配、奖惩规则和工作时间安排的影响，被迫延长工作时间，超过工作强度，或者无法正常接单。 对此，《规划》指出，有效防范各类风险，建立健全相关算法，灵活就业人员参加社会保险制度和劳动者权益保障制度。 《规定》第二十条规定“算法推荐服务提供者向劳动者提供工作调度服务时，应当保障劳动者的劳动报酬、休息休假等合法权益，建立健全平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法” 同时，面对我国老龄化社会的加速到来，规划指出，优化基础设施智能化升级要充分满足老年人等特殊群体的需求；强化数字经济的安全体系，还需要完善老年人等特殊群体的网络保护机制。 目前，随着人工智能技术应用范围的扩大，整个社会都在向智能化发展。 而对于老年群体来说，由于学习能力不如年轻人，可能难以有效掌握新兴的算法推荐服务，因此无法享受算法推荐服务带来的全新体验，甚至随着智能设备对传统设备的不断替代，给老年群体带来了诸多不便。 对此，《条例》第十九条规定，“算法推荐服务提供者向老年人提供服务时，应当保障老年人依法享有的权益，充分考虑其出行、就医、消费、工作等需求，按照国家有关规定为老年人提供智能化服务，依法监测、识别和处置电信网络诈骗相关信息，方便老年人安全使用算法推荐服务” 此外，由于未成年人尚未形成健全的价值观，对各种繁杂的信息难以识别，容易受到网络上不良信息或应用服务的影响。特别是网络游戏、短视频等应用软件频频引发未成年人沉迷事件，引起社会广泛热议。 对此，规划指出，完善未成年人等特殊群体网络保护机制。 《规定》第十八条明确要求，算法推荐服务提供者应当依法履行保护未成年人网络的义务，提供适合未成年人特点的服务，方便未成年人获取有益于其身心健康的信息，不得向未成年人推送影响未成年人身心健康的信息，不得利用算法推荐服务诱导未成年人沉迷网络。 做好分类协调，提升算法治理水平。个性化应用是算法的典型特征。根据算法应用涉及的内容类别、舆情属性、用户规模等因素，以及算法应用对网络安全可能带来的风险、对社会造成的损害范围和程度，对其进行分类，是当前算法治理的主流观点和基本逻辑。 比如《规定》第二十三条明确了分类分级的差异化监管制度，要求网信部门会同电信、公安、市场监管等相关部门，，根据算法推荐服务的舆情属性或社会动员能力、内容类别、用户规模等因素，对算法推荐服务提供者进行分类管理，从而更全面地开展算法安全评估、监督检查等各项工作。 为了进一步应对算法难以把握的“黑箱”属性，《规定》第二十四条对算法备案制度进行了界定，要求具有舆论属性或者社会动员能力的算法推荐服务提供者通过互联网信息服务算法备案系统填写服务提供者的服务表格、应用领域、算法自评报告等信息，并履行备案手续。 算法备案制度的建立有助于监管算法推荐服务，更好地防范算法可能带来的风险。 同时，规划明确指出，完善数字经济治理体系，要进一步强化协同治理和监督机制，提升政府数字治理能力，完善多元共治新格局 根据《规划》要求，规范算法应用，一是强化协同治理机制，加强政府内部不同部门之间的协同治理，明确主管部门和监管机构的职责，加强跨部门、跨层级、跨区域的协同监管，明确监管范围和统一规则，加强分工合作和协调。 《规定》第三条规定，参与算法推荐服务治理的部门不仅包括国家网信部门，还包括电信、公安、市场监管等相关部门。规定指出，这些部门按照各自职责负责算法推荐服务的监督管理，地方部门按照职责负责本行政区域内的监管。 但算法推荐服务往往具有跨区域、跨领域的特点，在监管过程中也可能同时涉及多个监管部门或多个地区的地方监管部门。因此，为了避免监管过程中因职责交叉而导致的相互推诿，有必要建立跨部门、跨区域的协同监管机制。 第二，建立和完善多元治理。 《规划》明确，要建立健全政府、平台、企业、行业组织、公众多元参与、有效协同的数字经济治理格局。 一方面，行业的健康发展需要来自法律规范和政府监管的外部约束；另一方面，也需要行业自律。 为此，《规划》指出，要深入推进行业服务标准和行业自律建设。 为鼓励算法服务行业形成行业自律，《规定》第五条明确强调，鼓励相关行业组织加强行业自律，建立健全行业标准、行业规范和自律管理制度，督促和指导算法推荐服务提供者制定和完善服务标准，依法提供服务，接受社会监督。特别是当前社会各界普遍关注的“大数据杀熟”、“信息茧房”等算法热点问题，其法律责任得到了明确规范，为建立和完善多元共治格局奠定了制度基础。 当前，中国数字经济发展正站在新周期的起点上，数字经济已从高速增长阶段转向高质量发展阶段。 治理算法已经成为保障和推动数字经济高质量发展的重中之重，不仅关系到数字经济发展的效率，也关系到数字经济运行的安全。因此，尽快制定和发布安全标准和“以人为本”的覆盖算法，成为引导算法向善，激发算法创新，释放算法正效率的关键。 (本文作者为南开大学法学院教授、司法与社会研究中心主任、中国新一代人工智能发展战略研究院特约研究员)【纠错】