智道

 

聚焦前沿科技与法律伦理的交汇碰撞

 

栏目主持人：於兴中

投稿邮箱：zhidao0101@163.com

 

 

2021年12月31日，国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》（以下简称《规定》）。作为世界首部专门针对算法的法律文件，这一《规定》也标志着我国的算法规制走在了世界前列。就《规定》中的诸多创新之处，《智道》栏目特邀三位专家进行深入的分析与评论，以飨读者

 

▶   未经授权 不得转载

文 | 彭錞

责任编辑 | 尹丽

 

2021年12月31日，《互联网信息服务算法推荐管理规定》（以下简称《规定》）正式发布。其第八条明确要求“算法推荐服务提供者不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型”，第一次在我国法上确立了普遍性的“算法防沉迷”义务，在世界范围内亦属首创。鉴于其对互联网信息服务产业可能带来深远影响，有必要在法理层面慎重考虑“为什么”，在法制层面小心设计“怎么办”。

 

 

“算法防沉迷”的法理分析

 

法理层面，“算法防沉迷”条款的核心问题在于：设定该法律义务本身是否合法？立法法第八十条规定：“部门规章规定的事项应当属于执行法律或者国务院的行政法规、决定、命令的事项。没有法律或者国务院的行政法规、决定、命令的依据，部门规章不得设定减损公民、法人和其他组织权利或者增加其义务的规范”。作为部门规章，《规定》给算法推荐服务提供者增设了防止用户沉迷的义务，上位法依据何在？

征诸该规定第一条列举的立法依据，网络安全法第十二条要求“任何个人和组织使用网络应当遵守宪法法律，遵守公共秩序，尊重社会公德”，数据安全法第八条规定“开展数据处理活动，应当遵守法律、法规，尊重社会公德和伦理”，个人信息保护法第十条禁止“任何组织、个人从事危害公共利益的个人信息处理活动”。据此，《互联网信息服务算法推荐管理规定》第八条可视为在细化解释上述规范，将诱导用户沉迷的算法界定为“违反法律法规或者违背伦理道德”。

但这只是解决了形式合法性问题，更重要的实质合法性问题是：算法诱导用户沉迷是否一定要动用法律来干预？

首先须厘清的是，这里的“用户”是谁？鉴于《规定》第十八条要求“不得利用算法推荐服务诱导未成年人沉迷网络”，第八条“算法防沉迷”义务指向的“用户”有两种解释方案。

一种将第十八条视为第八条的细化说明，即“用户”仅指未成年人，此次新规不过是重申2020年10月17日修订的未成年人保护法第七十四条：“网络产品和服务提供者不得向未成年人提供诱导其沉迷的产品和服务。”但这种解释在立法技术上难以自圆其说，因为若第十八条和第八条所保护的“用户”含义完全相同，则无须重复表述，要么在第八条直接明确不得诱导未成年用户，要么删去第八条相关语句而留待第十八条规定。

因此，就现有表述来看，更为合理的解释方案是第八条不仅涵盖未成年用户，也涉及成年用户，第十八条是对第八条部分内容的进一步强调。但随即而来的问题是：算法诱导成年人沉迷网络是否需要法律干预？

古语有云：“人无癖不可交”。现代心理学也表明浏览社交媒体和进行网络游戏能刺激人体分泌多巴胺甚至内啡肽，有助于减轻压力、释放情绪。更何况在一个自由的社会，基于人的尊严，成年人的自治空间应当受到最大程度尊重，“我的地盘我做主”不容随意侵入，哪怕是以法律的名义。沉迷网络可视为成年人的自主选择，就如同选择沉迷垃圾食品，国家最多只能倡导健康饮食，而不可断然禁绝餐厅售卖。

不过，沉迷网络与沉迷垃圾食品是同一回事吗？随着对网络成瘾机理及影响的研究不断深入，人们日渐认识到沉迷网络的特殊性。1994年，美国一名精神科医生首次注意到有患者“随时随地都想上网，通常每周上40到80个小时，经常彻夜不眠，减少甚至放弃重要的社会和职业活动”，并将此症状命名为“互联网成瘾症”（Internet Addiction Disorder）。

国际研究发现，网络成瘾者的和药物成瘾都会使成瘾者控制能力降低、奖赏寻求增加、耐受性增强，具有戒断反应和精神及躯体症状等临床特征。我国学者也发现网瘾患者内囊前枝、外囊等白质纤维束损伤的模式与鸦片依赖患者非常类似，且左侧外囊损伤程度与患者网瘾严重程度显著相关。

可见，网络成瘾更接近于毒品和赌博成瘾。早在2007年，斯坦福大学医学院就指出有八分之一的美国成年人上网成瘾。这一状况在移动互联网时代愈加恶化。据英国研究者统计，2012年有三分之二的英国成年人患有“无手机恐惧症”。2019年 5月25日，世界卫生组织正式将网络游戏成瘾列为精神类疾病。

最新研究数据显示，2020年我国成年人每天看手机的时间长达171分钟，读书时间仅 20.04分钟。时至今日，网络成瘾已成为全社会共同关注的“公害”——相较于沉迷垃圾食品，沉迷网络更加普遍，危害则有过之而无不及。2006年，中科院心理研究所发现80％中断学业的大学生都是因为网络成瘾。沉迷手机导致家庭失和、工作失效、社交失败、精神失控的报道更是屡见报端。

一百多年前，密尔在《论自由》中尝言：一个人耽溺于某些活动，“即便他养成的爱好本身并无害处，但却会给那些跟他共同生活的人或身心健康须依恃于他的亲人带来痛苦，他也该受到同样的谴责”。据此，以法律手段约束算法诱导成年人和未成年人沉迷网络，以减少社会危害、维护公共利益，法理上站得住脚。

 

 

“算法防沉迷”的制度落地

 

“算法防沉迷”在制度落地层面存在巨大挑战。其现实难题在于：如何设计相应的合规义务？正如密尔所言：“纵然卖酒之人乐于所卖之酒被用于无度滥饮，然而合理使用之酒品也必有赖于他们供应。不过，酒商热心鼓励人们纵酒 ，确是一种祸害，因此国家有理由为此加以管制”。

同理，网络成瘾固然有害，但毕竟跟毒品成瘾不可同日而语，而且网络本身也具有传递信息、便利生活等诸多益处，故不可一禁了之，只能规范治理。

然而，自诞生起，算法就是为了提高用户体验以增加访问次数、延长停留时间，从而提升用户粘度。可以说，算法推荐的本性正是对用户“投其所好”，让更多人更依赖某种互联网产品，“把大众的注意力变成生意”（美国学者吴修铭《注意力商人》一书的副标题）。这与“算法防沉迷”的合规义务天然构成张力。

因此，切不能将《规定》第八条理解为彻底禁止网络信息服务提供者利用算法吸引、留存用户，否则会给我国互联网产业带来不可估量的“寒蝉效应”。申言之，不是所有提高用户粘性的算法推荐都是在“诱导”用户沉迷，都有违公共利益和伦理道德。

事实上，就新规所体现的“算法防沉迷”合规义务之广度和深度而言，我国已走在全球前列，比集结八个中央部委自上而下治理网络成瘾的韩国都要更加积极有为，遑论主要依靠自下而上行业自治的欧美国家。

如何在“防沉迷”和“促发展”之间求得平衡，考验制度设计者的智慧。十余年来，针对未成年人沉迷网络游戏，我国逐步形成了一套实名注册、限制时长、适龄提示、家校监管的防范系统。但对于成年人，这套制度无法也不应完全照搬。

《规定》第八条禁止设置诱导性算法模型，不应简单理解为取消算法推荐的个性化或降低其精准度，而是要求算法推荐服务提供者有意识地采取措施防范成年用户沉迷，在“吸引”和“诱导”之间划出一道分界线。

毋庸讳言，这道线并不好划，中国正走在一条无现成经验的新路上。这方面，行政法学上的“助推”理论或许能提供一些启发。该理论试图在放任自由和全面禁止之间寻找中道，通过默认规则、简化程序、信息披露、提醒警示等手段来重塑人们的选择结构，以激励更多提升用户自身福利的行为。

《上瘾：让用户养成使用习惯的四大产品逻辑》一书发现，算法推荐之所以能够抓住用户，实际上是通过四个环节：“触发”用户采取“行动”，例如新消息推送促使用户浏览页面、发表评论，然后给用户以“奖励”，比如内容获得、社交互动，进而让用户形成正反馈，不断对相应互联网产品进行“投资”，比如个性化设置自己的账户，最终提高离开产品的成本，增强用户粘性。使这四个环节无缝连接，令用户不费吹灰之力，是所有算法工程师的使命和理想。

但在“算法防沉迷”的合规义务之下，算法设计者应当采取措施给用户更多选择，使上述每一个环节都不那么“驾轻就熟”“顺水推舟”。例如允许用户选择是否接收消息推送甚或将免推送作为默认规则、在用户浏览过程中定期弹出消息提醒其已经过去多长时间、允许用户一键自动消除自身账户的个性化设置，等等。此类助推举措并不禁止算法推荐吸引和留存用户，而只是给用户选择停止或离开的机会，防止其沉迷至无法自拔。

近年来，助推理论的发明者、诺贝尔经济学奖得主理查德•塞勒提出一个新概念“胡推”（sludge），也被称为“暗黑助推”（dark nudge），指那些减少用户福利的选择结构设置，诱导用户沉迷的算法推荐可视为一种实例。在此意义上，“算法防沉迷”的法制中道也许正在于“要助推，不要胡推”。

（作者系北京大学宪法与行政法研究中心研究员）