AI 接不住的问题怎么办?把人工接管当成功能来设计
AI 接不住的问题怎么办?把人工接管当成功能来设计
先说一个 AI 项目里最容易被跳过的设计。
公司上了 AI 客服或者内部助手,方案里写了它能答什么,唯独没写一件事,它接不住的时候,谁来接。于是 AI 一路硬答,客户在机器人里绕了五圈,把「转人工」三个字打了一百遍,最后带着火气截图发到网上。
很多人以为这是 AI 不够聪明。不是。哪怕换最贵的模型,也一定存在它接不住的问题,数据没录入的、规则有例外的、客户正在气头上要先处理情绪的。接不住不丢人,没设计好谁来接,才丢人。
· · ·
这个洞不补,后果是从两头一起挤过来的。
对外,客户被机器人消耗到爆怒,本来一个能解决的问题,变成一次投诉。AI 的锅,最后砸在品牌头上。
对内,员工看了一次 AI 答错,从此绕着走。你花预算买的生产力,用不起来。
最亏的是第三种,项目整个回退。一次接不住的事故被放大成「AI 根本不行」,负责人从此再提 AI,会上没人点头。
之前写过,模型再强,有几样东西它永远够不着,数据在哪个库、权限怎么划、规则谁说了算、出了错谁兜底。人工接管就是「谁兜底」的答案。它是功能,不是补丁,得像设计功能一样设计它。

· · ·
怎么设计,三件事,一件都不能省。
🚨 第一件,把「接不住」定义成信号,别靠 AI 自觉。
哪些情况必须转人工,提前写死。四类信号最基本。识别不到意图,检索不到依据。同一个问题用户问了第二遍。对话里出现情绪词。碰到涉及钱、条款、健康安全的关键决策,这类不该让 AI 拍板,直接转。
写成清单放进需求,每一条都是可判断的规则,不是「AI 觉得自己不行」这种玄学。
🤝 第二件,转的通道要短,带着上下文转。
用户想转人工,最怕两件事,找不到入口,转过去还要从头复述一遍。入口要固定可见。转过去的时候,把这轮对话记录、用户的问题、AI 已经试过的答案一起带过去,人工打开就能接着说。
还有个常被忘掉的细节,排队要可见。「前面还有 2 个人」比「请稍候」体面得多,用户能等,不能等的是未知。
♻️ 第三件,接完要回流,这是整套设计里最值钱的部分。
人工答完就结束,等于每次接管都白干。要让每一次接管留下三个东西,用户的问题原文、人工给的答案、AI 当时为什么没接住。答案进知识库,问题进业务考卷。
之前写过知识库四步改造和业务考卷三步法,接管回流就是它们的燃料。转人工率最高的十个问题,就是知识库最短的十块板,下个版本优先补。AI 的能力边界,就这样一圈一圈往外推。
【接管记录表】每次转人工记四个字段
问题,用户原话
AI 为什么没接住,命中哪条信号
人工答案,一段说清
去向,是否已进答案库、是否进考卷

· · ·
这套设计建起来之后,变化是三个方向一起来的。
对外敢放了。AI 挂在客户面前,背后有人兜着,出不了大事。
成本算得清了。AI 接住大多数,人工只接真正需要人的那部分,客服团队从重复问题里解放出来,去干真正要人判断的事。
系统自己会变好。每一次接管都在喂知识库和考卷,接得越多,下个月要接的越少。人工接管率从三成降到一成的过程,就是 AI 项目从能用到好用的全过程。
· · ·
最后说一句,很多人把「转人工」当成 AI 项目的失败指标,方向反了。
一个永远不转人工的 AI,要么是问题太简单,要么是没人看数据。该转就转,转完变强,这才是 AI 接进真实业务该有的样子。FDE 在客户现场干的活,一大半就是把这些兜底的路修出来。
你的 AI 现在接不住的时候,发生的是什么。如果答案是「客户在骂街」,先把那四类信号写进需求。

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐

所有评论(0)