算法推荐关不掉、标签删不了？自动化决策合规的三个实务判断

　　先看一个几乎每个有推荐功能的产品都会遇到的场景。一家做内容社区的公司收到用户投诉：设置里那个"关闭个性化推荐"按了没用，刷两下还是原来那些内容；同时又收到另一位用户的要求，让他把"贴着"自己的兴趣标签全部删掉，可后台翻了一圈，根本没有这个入口。几乎在同一时间，监管来问：你们这套推荐系统，算法备案做了没有？公司这才发现，产品上线大半年，备案这件事从来没进入过上线清单。而到了人力那边，还有第三个问题在等：简历自动筛选系统给候选人打了"不合适"，候选人要求说明理由，系统却只能说一句"综合评分未通过"。

　　这三件事看着分散，其实落在三条互相咬合的规则线上：算法推荐服务要提供"可退出"的选择，具有特定能力的服务要履行算法备案，而自动化决策一旦影响到个人权益，还要担起透明度与说明的责任。它们都不属于"要不要做"的选答题，而是"怎么做才不留把柄"的必答题。下面三个判断，建议在产品上线前、上线后和遇到争议时各走一遍。

#一、用户点了"关闭推荐"，关掉的到底是什么

　　先说规则。《互联网信息服务算法推荐管理规定》（国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局令第9号，自2022年3月1日起施行）第十七条写得很具体：算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项；用户选择关闭的，算法推荐服务提供者应当立即停止提供相关服务。同一款条文紧接着要求，提供者应当向用户提供选择或者删除用于算法推荐服务的、针对其个人特征的用户标签的功能。《中华人民共和国个人信息保护法》（自2021年11月1日起施行）第二十四条第二款则从另一个角度作了同样的要求：通过自动化决策方式向个人进行信息推送、商业营销，应当同时提供不针对其个人特征的选项，或者向个人提供便捷的拒绝方式。

　　把两条放在一起看，"关闭算法推荐"其实被拆成了两个可独立检验的动作：一是退出推送本身，二是处置那些被用来刻画用户的标签。很多企业只做了前者的一半——在设置页放一个"个性化推荐"开关，用户关掉后，首页不再按画像排序，但活动弹窗、站内信和短信营销照旧，理由往往是"这是运营推送，不是算法推荐"。这个解释在规则面前站不稳：个人信息保护法第二十四条第二款恰恰把"信息推送、商业营销"和个性化推荐并列，指向的正是这类通过自动化决策开展的定向触达。真正的合规判断不是"这个功能叫什么名字"，而是"这条内容是不是因人而异地送到了他面前"。

　　风险因此集中在几个具体形态上。最典型的是"假关闭"：开关关闭后，系统仍基于历史画像做粗排，只是把结果藏得更隐蔽；用户体感上就是"说关了其实没关"。其次是"标签黑箱"：用户能关推送，但看不到、也删不掉系统给自己贴的兴趣标签，等于同意了一个自己不知道内容的标签继续留在库里。再次是"以关闭换功能"：把关闭推荐与"无法正常使用产品"绑定，用一句"关闭后将影响内容体验"施压，这类设计与功能实现上的"关闭不彻底"叠加，很容易在投诉中被认定为没有真正提供便捷的拒绝方式。

　　实务上，落地动作可以拆成三步。第一，区分"个性化推荐退出"与"非个性化展示"：用户关闭后，应转向不依赖个人特征的通用排序，而不是直接空白或反复弹窗劝返，同时确认推荐、营销、短信/push 各条链路都已在系统中联动关闭，而不是只关掉展示层。第二，把标签功能做成可见、可选、可删：至少能让用户看到用于推荐的主要标签，并提供单个或整体删除入口，删除后要确保模型侧不再调用这些标签，避免"前台删了、后台还在用"。第三，保留操作留痕：用户何时、通过什么入口关闭，系统何时生效，标签何时删除，这些记录既是产品改进的依据，也是争议发生时证明义务已履行的直接证据。

#二、算法备案不是"大厂才要做的事"

　　第二个判断，是很多企业直到被问起才第一次认真对待的问题：我们这套系统，需要做算法备案吗？

　　规则的门槛写在《互联网信息服务算法推荐管理规定》第二十四条：具有舆论属性或者社会动员能力的算法推荐服务提供者，应当在提供服务之日起十个工作日内，通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续；备案信息发生变更的，应当在变更之日起十个工作日内办理变更手续；终止服务的，应当在终止服务之日起二十个工作日内办理注销备案手续。第二十六条进一步要求，完成备案的服务提供者应当在其对外提供服务的网站、应用程序等的显著位置标明备案编号并提供公示信息链接。需要一并注意的是，《生成式人工智能服务管理暂行办法》（国家互联网信息办公室等部门令第15号，自2023年8月15日起施行）第十七条也把具有舆论属性或者社会动员能力的生成式人工智能服务，明确指向了同一套算法备案与变更、注销手续。

　　难点恰恰在于"具有舆论属性或者社会动员能力"这个前提怎么判断。条文本身没有给出一个可以照抄的定义，实践中主要结合服务是否面向公众提供信息、是否影响信息的呈现与排序、是否可能对舆论形成产生影响来把握；《规定》第二十三条提到的分级分类思路，也是从舆论属性或社会动员能力、内容类别、用户规模、对用户行为的干预程度等维度切入。对企业的现实含义是：不能想当然地认为"我只是个垂直工具"或"我不做新闻"就不需要备案，一个用户规模不小、能通过排序和推送显著影响用户看到什么的推荐系统，通常就会被划进这个范围。

　　风险有三类。第一类是漏备案：企业把备案理解成"备案主站、备案 App"这种按载体分的动作，结果小程序、H5、开放平台的推荐接口各自独立上线，却都没有纳入备案范围。第二类是漏变更：算法版本重大升级、应用领域调整、主体信息变化，都属于需要重新办理的情形，很多企业备案一次就当作一劳永逸。第三类是漏公示：即便完成了备案，也没有在显著位置标明备案编号和公示链接，这本身也落在可被处罚的条文范围内。

　　这里要说清楚一个容易被误读的点：算法备案的罚款额度看着不高。《规定》第三十一条对违反第七条、第八条、第九条第一款、第十条、第十四条、第十六条、第十七条、第二十二条、第二十四条、第二十六条等条文的行为，规定由网信部门和电信、公安、市场监管等部门依据职责给予警告、通报批评、责令限期改正；拒不改正或者情节严重的，责令暂停信息更新，并处一万元以上十万元以下罚款。单看数字，一万元到十万元并不吓人，但真正的代价不在罚款，而在"责令暂停信息更新"——对靠内容更新和推荐流维持活跃的产品来说，这一项带来的业务中断，远高于罚款本身。把备案当成"低风险的小事"，是典型的误判。

　　落地建议并不复杂，关键是把备案做成一条可追踪的流程：建立一张算法服务台账，逐个登记哪些产品、哪些接口对外提供推荐或生成服务，明确每个主体是否具有舆论属性或社会动员能力、是否已完成备案；把"备案完成"设为上线的前置检查项，而不是上线后的补办事项；对已备案项目，设置变更监控，算法重大调整或主体信息变化时触发重新办理；上线后，回过头检查网站和 App 的显著位置是否已经标明备案编号和公示链接。

#三、算法定价、说明义务与"拒绝仅自动化决策"

　　第三个判断，涉及的风险更直接作用于消费者和劳动者：算法不要用它不该用的方式区别对待，也不要在给出对个人重大影响的结论时"什么都不说"。

　　在价格与条件这一侧，规则是双轨的。《消费者权益保护法实施条例》（国务院令第778号，自2024年7月1日起施行）第九条第二款规定，经营者不得在消费者不知情的情况下，对同一商品或者服务在同等交易条件下设置不同的价格或者收费标准。《互联网信息服务算法推荐管理规定》第二十一条则要求，算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者公平交易的权利，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇。《个人信息保护法》第二十四条第一款也作了同向规定：利用个人信息进行自动化决策，应当保证决策的透明度和结果公平、公正，不得对个人在交易价格等交易条件上实行不合理的差别待遇。

　　这一组条文最容易起争议的地方，恰恰是几个限定词。"不知情"意味着判断的起点是消费者是否被告知，而不是企业是否在协议里写了概括条款；"同等交易条件"则留下了正当差异的空间——会员权益、新人补贴、渠道成本、履约时效带来的价差，通常可以被解释为交易条件本身不同，而单纯因为算法判断"这个人更愿意付高价"而抬价，就落进了禁止范围。企业常犯的错误，是把定向优惠券、随机立减这类表面上的"让利"当作天然抗辩，却忽略了规则调整后同样的算法机制也可能被用来加价，一旦机制不透明、留痕不足，"善意"与"不合理差别待遇"在事后很难自证。

　　在决策透明度这一侧，规则给了个人两项权利。《个人信息保护法》第二十四条第三款规定：通过自动化决策方式作出对个人权益有重大影响的决定，个人有权要求个人信息处理者予以说明，并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定。这句话在录用、授信、定价、分配订单等场景里都可能有实际影响——当系统给出的结论直接关系到一个人能否获得机会，企业就不能只回一句"系统评分未通过"。《个人信息保护法》第五十五条还把"利用个人信息进行自动化决策"列为应当事前进行个人信息保护影响评估的情形之一，第五十六条要求评估报告和处理情况记录至少保存三年。另一条容易被忽略的是第六十九条：处理个人信息侵害个人信息权益造成损害，个人信息处理者不能证明自己没有过错的，应当承担损害赔偿等侵权责任——举证压力天然落在企业一侧。

　　由此产生的风险有两层。表层是通知与说明的缺失：拒录、降额、限流这类决定，往往只有一句模板话，既没有基于岗位或规则要求的实质理由，也没有人工复核通道，用户即使提出要求也无从获得说明。深层是影响评估的缺位：很多企业在引入自动化决策时，只做了技术可行性评估，却没有留下任何关于合法性、正当性、必要性和权益影响的书面记录，等到需要证明自己尽到义务时，手里什么都没有。

　　路径比较也很清楚。较稳妥的做法是"先评估、再上线、留通道"：在自动化决策上线前完成个人信息保护影响评估，明确决策依据中哪些是必要的、哪些属于需要排除的因素；对可能对个人权益产生重大影响的决定，设置人工复核入口，并在通知中给出可理解的实质理由；把评估报告、决策日志、复核记录按规定保存。相反，"先跑起来、出问题再说"的路径，短期省掉了评估和流程成本，但会在一次投诉或一次检查中集中暴露，且因为缺乏评估材料和日志，几乎没有补证空间。

#四、律师视角：把三件事做成三条可审计的流程

　　对企业来说，算法推荐合规不是发一版用户协议就能收尾的事。它至少要在三个节点上留下法律动作。产品设计阶段，把"退出机制"写进需求验收标准：明确关闭入口的位置、关闭后的降级策略、标签的展示与删除路径，并确保推荐、营销、消息推送各链路联动；上线前的合规检查环节，把算法备案纳入上线 Checklist，逐项确认主体判断、材料填报和备案编号公示；运营与算法迭代阶段，针对自动化决策事前完成影响评估，为涉及重大权益的决定配置说明与人工复核机制，并把日志和评估记录按保存期限归档。

　　对已经上线、历史动作不完整的项目，现实的处理顺序通常是：先补最易被投诉的环节（关闭机制与标签删除），再补制度性证据（备案与影响评估），最后回头统一排查公示与协议表述是否与系统实际行为一致。这类"补课"虽然被动，但比在争议发生后才被动应诉，成本要低得多。

　　回到开头那个场景：企业真正需要的，不是一句"我们的算法没问题"，而是一条经得起追问的链条——用户能不能真正退出去、那些刻画用户的标签在哪、服务要不要备案、算法给出的结论能不能解释。这几个问题的答案，决定了推荐系统在监管和投诉面前是站稳还是塌方。

　　算法合规的本质，是把"系统怎么决定"这件事，从技术黑箱变成可以被记录、被解释、被退出的流程。谁先把这条链路做扎实，谁的推荐功能才能走得稳。

---

需要专业帮助？预约测绘，帮你梳理算法推荐的用户退出机制、算法备案与自动化决策的影响评估。