AI客服答非所问、转人工比登天还难——企业上智能客服的三个实务判断

　　先看一个几乎每天都在发生的场景。一家做线上零售和会员服务的公司，为了压降客服成本，把售前咨询和售后工单的绝大部分入口都换成了智能客服：用户先跟机器人对话，只有连续失败或者明确说出“转人工”，才可能被转接。上线三个月，人工座席砍了一半，可投诉量却翻了一倍——有人抱怨机器人循环回复、答非所问，有人反映在App里根本找不到人工客服的入口；更麻烦的是，有用户拿着机器人回复的截图主张“你们承诺过随时可以全额退款”，公司这才意识到，那句随手生成的答复，可能被当成了一份对外承诺。

　　这类问题在实务里常被归到“客服体验”名下，看上去是产品和运营的事。但真正让人头疼的部分，往往落在三条互相独立、又彼此咬合的规则线上。第一条是消费者权益保护这一侧：经营者对消费者的询问负有真实、明确的答复义务，不得作虚假或者引人误解的宣传，也不得用格式条款、技术手段排除或者限制消费者的权利。第二条是人工智能这一侧：如果这套“智能对话”落在生成式人工智能或者深度合成服务的射程内，就要面对内容标识、投诉入口等一整套合规义务。第三条是个人信息保护这一侧：客服会话里往往混着姓名、电话、订单、录音等信息，一旦用上自动化分析或者决策，透明度、公平性、影响评估这些要求就会同时被激活。

　　需要说明的是，这几条线现在都不是空白。《中华人民共和国消费者权益保护法实施条例》已经2024年2月23日国务院第26次常务会议通过、2024年3月15日以国务院令第778号公布，自2024年7月1日起施行；工业和信息化部又于2025年7月发布了《移动互联网应用服务用户权益保护合规管理指南》，明确提出简化人工服务转接程序、向老年人提供人工直连热线等要求。《生成式人工智能服务管理暂行办法》自2023年8月15日起施行，《互联网信息服务深度合成管理规定》自2023年1月10日起施行。规则不再是空白，难的是把它落到客服系统的每一次应答和每一层跳转上。下面三个判断，建议在智能客服立项、上线、整改时各走一遍。

#一、机器人说的话，算不算企业的承诺

　　这一层的起点，是很多人下意识的一个误解：既然是系统自动回复，那就不代表公司的真实意思，出了事把责任推给“机器说错了”就行。这个理解，在网购和线上服务场景里恰恰最站不住。

　　《中华人民共和国民法典》第四百九十一条第二款规定：当事人一方通过互联网等信息网络发布的商品或者服务信息符合要约条件的，对方选择该商品或者服务并提交订单成功时合同成立，但是当事人另有约定的除外。也就是说，在很多线上交易里，合同成立的时间点被锁定在用户“提交订单成功”的那一刻，而不是等到人工审核。与此同时，该法第四百六十九条第三款还把能够有形地表现所载内容、并可以随时调取查用的数据电文，视为书面形式。系统吐出的字，落到交易链条里就是有法律分量的表达。

　　《中华人民共和国消费者权益保护法》第二十条则从义务一侧把话说得更直接：经营者向消费者提供有关商品或者服务的质量、性能、用途、有效期限等信息，应当真实、全面，不得作虚假或者引人误解的宣传；对消费者就其提供的商品或者服务的质量和使用方法等问题提出的询问，应当作出真实、明确的答复。换句话说，“把咨询答清楚”本身是一项法定义务，而不是可以由机器人敷衍过去的体验优化。《消费者权益保护法实施条例》第九条进一步把“虚构或者引人误解的宣传”具体化，明确禁止虚构商品或者服务交易信息、经营数据，篡改、编造、隐匿用户评价等行为。

　　真正的风险，出现在“机器人答复”和“人工承诺”的缝隙里。常见的错误做法有三类。一类是把机器人当段子手，为了把用户留住，让模型自由生成“可以全额退”“坏了包换”“给您补发一份”这类带给付效果的表达，可这些说法与页面上的退换规则、服务条款并不一致；第二类是企图用一句小字兜底，在对话角落标注“系统答复仅供参考，以最终解释权为准”，可《消费者权益保护法》第二十六条说得清楚，经营者不得以格式条款、通知、声明等方式，作出排除或者限制消费者权利、减轻或者免除经营者责任、加重消费者责任等对消费者不公平、不合理的规定，也不得利用格式条款并借助技术手段强制交易，含有这些内容的，其内容无效；第三类是把矛盾留到纠纷阶段再解释，主张机器答复“不是真实意思表示”。

　　这里就有一个路径选择的问题。事前控制的路子，是把机器人可答的范围收窄——凡是涉及价格、退换、赔付、优惠资格这类会直接改变权利义务的答复，一律不得由模型自由生成，必须走规则校验或者转人工确认，改造成本高、短期看“不够智能”，但把不确定性关在了系统里。事后抗辩的路子，成本看似低，却在消费者保护的倾向性评价下胜算不高：合同成立时间、答复义务、格式条款效力这几条叠在一起，企业很难仅凭“那是自动回复”脱身。

　　落到操作上，企业至少可以做三件事。其一，把客服脚本里能够产生给付、免除或者赔付效果的表达全部挑出来，从机器人生成范围里拿掉，宁可让它说“这个问题我帮您转人工确认”。其二，在订单确认页、退换货规则页，用显著方式把关键条款固定下来，而不是指望对话里的小字免责。其三，把每一次“机器答复—人工确认—最终处理”串成可回溯的记录，一旦出现争议，能证明企业对外的真实规则是什么。

#二、把“转人工”藏起来，到底只是体验问题吗

　　转人工难，是这几年投诉最集中的点之一。用户点了“关闭”还在被推，说了几次“转人工”也转不过去，App里翻半天找不到人工入口——很多企业把它当成体验瑕疵，本质上却是消费者法定权利有没有被保障的问题。

　　《中华人民共和国消费者权益保护法》第八条赋予消费者知悉其接受的服务的真实情况的权利，第九条则明确消费者享有自主选择商品或者服务的权利，有权自主选择商品品种或者服务方式。这个“服务方式”的选择，不应被理解成只看商品本身，也包括当机器人无法解决问题时，能不能真正触及人工服务的通道。《消费者权益保护法实施条例》第四十四条要求经营者建立便捷、高效的投诉处理机制，及时解决消费争议，并鼓励建立首问负责、先行赔付、在线争议解决等制度；第十七条又重申，经营者不得利用格式条款不合理地限制消费者依法变更或者解除合同等权利。

　　工信部2025年7月发布的《移动互联网应用服务用户权益保护合规管理指南》，把这件事从“倡导”往“可对照”的方向推了一步：其中提出，鼓励设立客户服务热线，在显著位置公示客服热线电话号码，简化人工服务转接程序，向老年人提供人工直连热线服务，并建立健全用户投诉处理机制。它本身是指导企业建立合规管理体系的指南，不是可以直接处罚的强制性条文，但它清晰地标出了监管关注的方向。

　　现实中更值得警惕的，是投诉背后的两种操作。一种是“流程门槛”：用循环应答、多层跳转，把人工客服设成需要用户付出不合理时间成本才能触达的例外。这种设计把企业的成本考量转嫁给了消费者，在评价上很容易被认定为对消费者选择权的实际限制。另一种是“AI乱承诺、商家拒认”：机器人为了促成交易满口答应，等履约时商家又翻脸说“系统说的不算”，结果两头都不讨好——用户觉得被骗，企业又落下了虚假宣传的口实。

　　不同企业在这里会选不同的路子。彻底取消AI、全部转人工，合规风险最低，但成本会直接反映在财报上；保留AI、但给转人工设一条“硬通道”（独立且显著的入口、限定跳转层级、复杂诉求和纠纷类场景默认优先转人工），是在成本和合规之间更现实的平衡；只改文案、加一句提示，看似省钱，却经不起执法和舆情追问。

　　具体到落地动作：把“转人工”做成一眼可见的独立入口，而不是藏在多层菜单之后；对老年人、未成年人、残障人士等群体，默认优先接入人工；把“涉及纠纷、赔付、投诉”的诉求在系统里直接标记为必须转人工；把投诉处理流程和反馈时限公开出来，并留下每一次转接与处理的记录。这些动作不复杂，但它们决定了客服系统在监管和诉讼面前，是被认定为“技术局限”，还是“刻意设障”。

#三、AI客服背后的会话数据与自动化决策

　　如果说前两层是“对外的说话方式”，这一层就是“机器背后的处理逻辑”，也是最容易被忽视、却最可能引发合规风险的底座。客服会话里天然包含大量个人信息：身份信息、联系方式、订单与消费记录，甚至通话录音。这些数据一旦被拿去做训练、画像或者自动判断，就落进了个人信息保护的射程。

　　《中华人民共和国个人信息保护法》第十七条要求，处理个人信息前应当以显著方式、清晰易懂的语言，真实、准确、完整地告知处理者的名称或者姓名和联系方式、处理目的和处理方式、处理的个人信息种类和保存期限，以及个人行使权利的方式和程序。《消费者权益保护法实施条例》第二十三条也要求经营者依法保护消费者个人信息，不得过度收集，不得采用一次概括授权、默认授权等方式，强制或者变相强制消费者同意收集、使用与经营活动无直接关系的个人信息。

　　更关键的是第二十四条。它规定：利用个人信息进行自动化决策，应当保证决策的透明度和结果公平、公正，不得对个人在交易价格等交易条件上实行不合理的差别待遇；通过自动化决策方式进行信息推送、商业营销，应当同时提供不针对其个人特征的选项，或者向个人提供便捷的拒绝方式；通过自动化决策方式作出对个人权益有重大影响的决定，个人有权要求处理者予以说明，并有权拒绝仅通过自动化决策的方式作出决定。这句话放到客服场景里，指向的是那种“系统给用户打了个标签，然后决定他的售后怎么处理、补偿给不给”的做法——如果这套判断充分自动、又对用户权益有实质影响，就不能只以“系统综合评分”一句话打发。第五十五条还要求，利用个人信息进行自动化决策的，应当事前进行个人信息保护影响评估，并对处理情况进行记录；第五十六条则要求评估报告和处理情况记录至少保存三年。

　　此外，如果客服产品里用到了合成形象或拟声，还要叠加深度合成这一侧的规则。《互联网信息服务深度合成管理规定》第十四条要求，提供人脸、人声等生物识别信息编辑功能的，应当提示使用者依法告知被编辑的个人并取得其单独同意；该规定第十六条、第十七条要求对生成或者编辑的内容添加标识并在特定情形下作显著标识，第十八条则禁止删除、篡改、隐匿这些标识。《生成式人工智能服务管理暂行办法》第十二条也要求提供者按照深度合成管理规定对图片、视频等生成内容进行标识。

　　这里同样有路径优劣之分。全面画像加自动决策，服务效率最高，但只要没有告知、没有影响评估、没有退出和说明渠道，合规风险就很高，一旦被投诉或检查，几乎无从解释；最小必要加人工复核，效率略降，却把自动化决策的影响控制在了可承受范围；完全不处理这些数据，则等于放弃了服务能力，通常不现实。

　　律师能做的是把这三件事做成常规动作：把客服数据纳入企业的个人信息清单，明确采集目的、范围与保存期限；凡是用到自动化决策、且判断可能对用户权益产生重大影响的，先做个人信息保护影响评估并留痕；在交互端提供便捷的人工介入和退出渠道，让用户不必“仅通过自动化决策”就被处理；对合成客服形象与语音，落实授权与标识。

#律师实务建议：上线前先走一遍“三步走”

　　把上面三层合起来，其实是一件可以流程化的事。

　　第一步是主体与场景定位。立项时先问清楚：这套系统对外提供的是什么服务，是纯信息应答，还是会影响订单、退换、赔付；它是不是生成式人工智能或者深度合成服务，需不需要标识和备案；客服会话数据会被谁处理、拿去做什么。定位不同，义务清单和合同条款的写法完全不同。

　　第二步是规则映射。把消费者权益保护、生成式人工智能与深度合成、个人信息保护这三套规则，逐条对应到产品的具体环节上：答复脚本对应答复义务与格式条款效力，转人工入口对应选择权与投诉处理机制，数据与决策对应告知、影响评估和说明拒绝权。做成一张能落到人和流程的对照表，而不是停留在原则层面。

　　第三步是留痕与机制。把每一次机器答复、每一次转人工、每一次涉及赔付或纠纷的处理都记录下来；把投诉处理流程和反馈时限公开；把影响评估报告按法定期限保存。纠纷发生时，这些记录既是证据，也是企业证明自己“没有设障、没有放任”的凭据。

　　回到开头那家公司：投诉量翻倍，不是因为上了AI，而是因为把AI当成了甩掉客服责任的手段。技术让“随时随地有回应”变得容易，但法律关心的从来不是回应得快不快，而是回应得真不真、消费者能不能选、机器背后有没有把该做的告知和评估做到位。

---

需要专业帮助？预约测绘，帮你梳理智能客服的答复效力、转人工通道设计与会话数据合规方案。