AI客服就是有点缺心眼

寂静回声

当ChatGPT等大模型技术横空出世时，客服行业曾被预言将迎来革命性变革。然而一年多时间过去，这场变革的进展却与人们的期待大相径庭。


AI客服在实际应用中暴露出诸多问题：转人工客服困难、回复“驴唇不对马嘴”、绕圈回避问题.....AI客服激怒消费者的情况屡见不鲜。与此同时，人工客服成为AI客服的“背锅侠”，一边委屈一边四处给AI“擦屁股”。

这场被寄予厚望的“智能革命”，并未带来预期中的降本增效，反而让整个行业陷入新的困境。

用户更加愤怒，商家成本不降反增，人工客服的工作量不减反增。

然而，AI正在吞噬着人工客服补漏时产生的数据，飞速进化。这场“AI大规模取代人工客服”的变革并非遥不可及的幻想，而是随时可能降临的现实。

而当AI真正成熟的那一天到来时，今天的这些“清洁工”们将发现，他们投喂的每一份经验，都成了吞噬自己的养分；他们修补的每一个缺陷，都成了自己职业城墙的缺口。
用户：啊？这么贵啊？那祝你们生意兴隆吧！

AI客服：感谢您对我们品牌的支持，请您尽快下单~

用户：你是听不懂人话吗？

在与电商平台客服的聊天对话框中，用户丢下差评后匆匆下线，留下客服实习生白晓慌忙撤回了这条不合时宜的感谢语。用户的那句“祝生意兴隆”明显带着讽刺意味，他是对安装费较高表达不满。

然而AI客服的情绪识别能力有限，无法分辨反讽与真心赞美，只是机械地根据“祝福语”关键词匹配出感恩话术。这不仅没有缓解矛盾，反而火上浇油。

2025年5月9日，白晓入职了一家为平台自营网店提供服务的第三方客服外包公司。尽管平台的AI客服号称集成了智能体和大语言模型，但在实际应用中仍频繁出现低级错误。

当AI客服激怒用户后，接盘的人工客服往往成为无辜的出气筒。

按照设计流程，用户进入客服页面后首先由AI接待，遇到超出知识库范围的问题或检测到情绪化语言时，AI会主动提供转人工服务。但转接后，AI依然不会完全退场，而是在人工客服忙碌的间隙继续插入“感谢”或“抱歉”等自动回复。

前面这起闹剧正是源于AI客服“见缝插针”的回复。

幸运的是，这些差评后来被小组长认定为“非客服责任”，没有影响她的绩效。第三方外包公司规模较小，组长和项目经理会审核差评的责任归属。而在某在线旅游大厂国际业务部门担任英语客服的田玥，就没这么幸运了。

田玥公司的AI客服系统声称接入了DeepSeek这样的大模型，但依然麻烦百出。

有一次，伦敦希斯罗机场起火，用户想要改签，但是AI客服一直在答非所问，没有及时提供改签的按钮入口，用户的心情自然与机场一般火势熊熊。

此时，系统监测到用户情绪不佳自动转人工，而对话界面左下角的评价按钮也随之从“给AI评价”变成“给客服评价”。最后评价变成了对田玥不满意，但用户很难注意到这个细微变化。
针对AI的差评往往落到人工客服头上，直接影响绩效评分和工资收入。田玥感到这实在荒谬。

田玥曾听说公司的AI客服团队会根据差评案例优化模型，于是通过反馈渠道投诉客服评价界面不清晰的问题，但问题至今没有得到解决。虽然有些团队会剔除这类差评，但田玥所在的团队并不会做排除，她推测可能是因为业务量太大，团队无暇分析差评的责任归属。

成都某智能体AI客服创业公司CEO徐客有电商背景，对当前客服机器人的局限性有深刻的感知。据他介绍，市面上许多平台虽然声称接入了先进大模型，但实际调用频率很低。

当用户提问时，系统优先调用传统的意图识别或关键词匹配，在知识库中寻找预设的低成本固定答案。

只有在“问答对”知识库中检索不到答案时，才会调用大模型对“未知问题”进行补充回答。意图识别的计算成本极低，而每句都调用大模型会产生巨大算力消耗，平台这样做是出于降本增效的考虑。

此外，平台首要保证的是系统的稳定性，哪怕传统AI回复是错的、机械的，也比不可预测的、可能“失控”的大模型回复要稳妥。这样的客服机器人缺乏真正理解对话上下文的能力，倾向于基于用户的上一句话去进行简单的问答匹配，这就会让AI客服陷入“关键词陷阱”和情绪误判。

尽管AI客服漏洞百出，白晓所在的公司仍要求人工客服接线时必须开启AI。为差评背锅的委屈还能被看见，但白晓接待每位用户时都需要对AI的自动回复进行撤回和道歉，这让她平白增加了大量隐形的额外工作。

AI客服通过识别关键词来判断用户需求，常常出现失误。比如用户询问“安装师傅的联系方式”，AI只识别到了“安装”，输出安装指南，却没有正面解决用户的问题，这时候只能一条条撤回，解释道歉，再做出新的回复。

另外，AI自动回复总是使用特定话术，但平台质检要求同类话术不得使用两次以上。这时白晓也要撤回AI的自动回复。AI发送速度很快，有时白晓超过2分钟无法撤回，只能向用户道歉。更荒谬的是，一般情况下撤回后的道歉有两套统一话术，但一串对话中AI客服惹的麻烦往往超过两次，统一道歉话术很快用完，白晓只能重新组织语言道歉。

被激活的AI客服如同一架盘旋在白晓头顶嗡鸣的直升机，无孔不入地干扰着她的工作。

急于上线的AI客服错漏百出，不仅没能减轻人工客服的工作负担，反而加重了情绪劳动。而那些期待通过AI客服来实现降本增效的商家，同样大失所望。

90后的潘艾在一家做鞋类的中小品牌的客服部担任管理层，她负责的店铺在国内电商主流的平台都已入驻，包括天猫、京东、得物、唯品会，还有抖音、快手、小红书等新媒体平台。
2024年年底，潘艾团队在平台AI客服之外尝试自己接入第三方智能体AI客服，试用期间，产品效果并没有达到潘艾的预期。因为AI客服不光没能节省人力成本，反而降低了产品转化率。

目前，AI客服存在两种主流的收费模式，传统的SaaS月费/年费制度，以及新兴的算力调用计费模式。前者通过开店数量、跨平台数量、客服席位的复合计费公式，使得很多小店的年客服运营成本超过十万元。对于潘艾来说，这相当于雇佣2位月薪5000元的人工客服的全年支出。

凭空多出两个人力成本，但效果却如前文所述的尴尬。

那什么样的AI客服才算物有所值呢？潘艾总结出了三个核心评估指标：满意度（AI需达到人工70%基准线）、转人工率（需压制在30%以下）、转化率（30%-40%的行业平均水平）。这些数字折射出了管理者对AI客服的理想定位——不拉低营收的情况下，能尽量能低成本完成人工客服的工作。

第二个问题是，AI客服并非是一个“买来即用”的系统，其后续伴随着高昂的维护成本。商品信息、店铺信息、优惠活动、问答话术、什么情况会转人工……让AI客服运转起来的一切信息都需要人工部署。
AI客服产品在使用前期缺乏训练数据，为求稳妥，潘艾自行设置的初始数据都更加偏向于官方回复，“亲，您好”、“在的”，而AI也只会照搬。这样的回复过于的机械化，没有办法像人工客服那样根据具体的场景给出恰如其分的回复，为客户提供品牌的情绪价值。

虽然商家在推销产品时强调AI客服会越用越好，但这个过程需要人工大量投喂数据。使用AI客服后，潘艾每天需要额外花费半小时，将前一天的差评或转人工较多的对话场景数据重新优化后输入系统。

关键是，这种模式对商家店铺规模有一定要求，规模较小的商家甚至个体户无法为AI提供充足的训练数据。

系统无法从日常人工客服与用户的对话中自主学习，人工客服处理过的问题，下次遇到时机器人依然不会解答，除非有人手动将信息加入知识库。许多平台甚至出现了“AI客服训练师”岗位，但这笔额外的人力预算对中小商家来说难以承受。
第三个大问题，是AI无法在解决用户问题的同时有效控制损失。

付林是一家做虚拟产品电商的客服。2025年5月下旬，在售前咨询中，付林明确向用户表达“下单成功后不支持全额退款”；而在售后咨询中，平台AI客服却向用户回复“可以退款”。随后，用户拿AI的回复作为证明向平台申诉全额退款。

据徐客解释，之所以AI会如此反馈，是因为大模型天生具有“迎合”人类的倾向，容易滑向危险的“好好先生”模式。

如果用户使用技巧引导，一个没有经过严格控制的AI客服很容易做出超出权限的承诺，比如随意降价、同意不合理的退款请求，给商家带来巨大损失。

事发之后，付林第一时间报告了店铺老板，并关闭了AI辅助。此后，应老板要求，客服每次上线，都需要检查平台AI辅助是否处于关闭状态——但有时候，它还会自动打开。

这三大问题，使得目前市面上绝大部分AI客服陷入尴尬处境——在90%的时间里，它表现得像个机械的“复读机”；在剩下10%的时间里，又可能变成一个不可控的“危险品”。
潘艾判断AI客服技术仍不成熟，停掉了试用。但为了满足平台考核，她日常还是会启用平台配置的AI客服。但考虑到效果问题，她更希望能只在客服流量高峰期开启AI，“它可以在首问帮我们过滤掉大部分重复问题。”

网络另一端，用户却常常对这一场场喧嚣一无所知。用户的界面并没有用于区分人机的头像或名称显示，所能看到的只有一个对话气泡框，无法识别对方是人工还是AI。

肖英在一家主营中老年产品的网店做客服，某天深夜将系统交给AI客服托管。第二天早上查看聊天记录时，发现一位五十多岁的用户与AI争吵了一整夜。“用户似乎没有看出自己在跟机器人说话。”虽然处理工作的不是自己，但肖英看到本应该属于自己接待的用户被AI耍得团团转，心中莫名生出了愧疚感。

而对于更大体量的消费者而言，上线就疯狂输出“转人工”已经成为心照不宣的默契。面对无法有效沟通的客服机器，消费者常常陷入“花费大量精力与AI客服拉锯，却依然没有解决问题”的局面。

很多人甚至开始怀念起和人工客服斗智斗勇的时代了。至少，对面是个真的听得懂你在说什么的人。

上面的一系列故事，都在证明：2024年这个智能体AI客服元年，是网店/平台、消费者和客服三方皆输的一年。