顶顶通AICC|用决策模型选择回答分支
顶顶通AICC 新功能:意图匹配更快,成本更低

客服中心里,每一次等待都在被重新计算。
客服机器人最容易被用户感知到的瞬间,往往不是答得好不好,而是那个停顿。
客户问完一句话,系统在后台判断意图、匹配回答分支,然后才开口。这段等待一旦拉长,再准确的答案也会显得迟钝。
顶顶通AICC 最近上线了一个新能力:用决策模型选择回答分支。它把这件事里最该快的一环,从大模型手里接了过来。
下面讲三件事:上一版为什么不够用、决策模型到底解决了什么、以及怎么在自己的机器人里接上它。
01 上一版的问题,不在模型不够强,而在它同时做了两件事
在用大模型理解意图、匹配回答分支的方案里,有两个绕不开的毛病。
- 慢。大模型是逐字生成内容的模型,判断意图对它来说更像"先想一段,再给结论",一次匹配的耗时远高于一次分类。
- 不太听话。有些场景希望"优先匹配回答分支,匹配不上再让大模型自由回答"。这类场景常用的轻量大模型对提示词的遵循度有限,经常不按约定格式输出分支结果,本该走分支的被拉去自由回答。
问题出在同一个地方:匹配分支是分类任务,生成回答是生成任务,而它们被同一个模型在做。
分类要的是快、准、便宜;生成要的是表达完整、灵活。用做生成的方式去做分类,时延和成本都会被最贵的那一环拉着走。并发一高,等待更明显。
02 决策模型是什么:一个只做判断、不做表达的模型
一句话说,决策模型是专门做"选项判断"的模型:你给它一份候选清单和每个候选的意图描述,它直接告诉你该选哪一个。
它不是更小的通用大模型,也不是关键词规则表。它不负责写回答,只负责在几条分支里挑一条。
正因为任务被收窄到"选择",它带来了两个很实际的变化。
一是快。决策模型的返回基本在几百毫秒级别。客户话音落下,分支基本已经定了。
二是省。计费结构上,它只有输入 token 的费用,没有输出 token 的费用——因为它不生成文字,只输出一个选择结果。同样是做一次意图匹配,成本结构和大模型完全不同。

判断和表达分开之后,最贵的环节只在真正需要时才出场。
03 机制拆解:匹配顺序变成了三级
接入决策模型之后,一次客户输入不再只有"匹配上"和"匹配不上"两种结果,而是按三级顺序处理。
| 顺序 | 处理方式 | 特点 |
| 第一级 | 关键词与正则表达式 | 最快、最确定,适合含义唯一、说法固定的问题,例如"转人工""营业时间"。 |
| 第二级 | 决策模型匹配 | 按每个分支的意向提示词判断该走哪一条,几百毫秒返回,覆盖说法多样但意图明确的场景。 |
| 第三级 | 大模型匹配或生成回答 | 处理前两级都没命中的复杂表达与开放式问题,承担真正需要"理解加表达"的部分。 |
这个顺序的意义在于:越靠前的环节越便宜、越确定;越靠后的环节越贵、越灵活。让大多数请求停在前两级,就是把钱和时间花在真正需要的地方。
换个更直白的说法:以前是"每个问题都请专家看一眼",现在是"前台先按业务手册分流,手册答不了的才转给专家"。
04 怎么配置:四步接上
整体分四步,前三步是配置,最后一步是验证。
第一步,配好决策模型。系统配置 → 决策模型配置 → 新增。以豆包为例,目前可用的决策模型是 doubao-seed-2-1-lite-260915:先在开通管理里开通 doubao-seed-2-1-lite,调用地址填 https://ark.cn-beijing.volces.com/api/v1/systemone,再填入 APIKEY。同一界面的下半部分就是"大模型设置",两个模型可以配在一处。

决策模型与大模型配在同一处,分支选择指令写清要模型完成的判断任务。
这里有个容易忽略但很关键的字段:分支选择指令。它告诉决策模型这次要完成的判断任务,例如"分析用户意图"。指令越贴近真实业务,选择越稳。
第二步,给每个回答分支和知识库补上意向提示词。决策模型靠意向提示词选分支,这一项不填,它就没有判断依据。

一个分支的意向提示词,就是它在决策模型眼里的“标签”。
写意向提示词的原则不是"写全",而是"写区分"。都写"关于公司的问题"没有意义,写成"询问公司名称、品牌、成立时间"才能和别的分支分开。
第三步,在开场白节点打开大模型匹配。添加开场白,勾选大模型匹配,把回答分支、知识库、多轮对话都关联上。

勾选所有分支并关联知识库、多轮对话,决策模型才有可选项。
第四步,进测试页验证。开场白节点 → 大模型提示词 → 编辑,进入测试页面,用真实客户会说的话逐条试。重点看两类:本该命中分支的有没有命中,本该交给大模型的有没有被误判成分支。
05 三个容易踩的误区
误区一:以为决策模型是"更弱的大模型"。它更弱的地方是表达能力,而它本来就不负责表达。在判断这件事上,它比通用大模型更专注,也更稳定。把它当成一个分类工位,而不是写作岗位的降级版。
误区二:觉得意向提示词可以糊弄。决策模型的所有判断都基于意向提示词。提示词写得含糊,选错分支的概率会明显上升,而且很难排查——日志上看模型确实"选了",只是选错了。
误区三:以为上了决策模型就不需要大模型。决策模型解决的是"选哪条",不是"怎么答"。开放式问题、需要追问澄清的对话、知识库里没有答案的问题,仍然要靠大模型。两者是分工,不是替代。
06 哪些场景值得先上
不是所有机器人都需要马上接。更值得优先考虑的是这几类。
- 分支多、话术标准。分支越多,用大模型做匹配越容易犹豫,也越贵。
- 首句响应敏感。客户说完第一句就要听到回应,几百毫秒和更久的等待,体感差别很大。
- 并发量大。每次匹配都在消耗 token 的场景,成本结构的变化最明显。
- 已经有明确的业务意图清单。意图本来就想得清楚,只缺一个稳定的执行者。
反过来,如果业务本身是开放式咨询,分支少、答案高度依赖现场生成,收益就有限——这时把精力放在大模型提示词和知识库质量上更划算。
还有一条边界要提前说清:决策模型不是万能分类器。客户表达含混、一句话里同时涉及两三个意图时,它同样会出错。这类情况通常靠多轮对话追问解决,而不是指望一次匹配到位。
这次更新的重点,其实不是"多了一个模型",而是把一件被混在一起的事情拆开了:判断意图是判断,生成回答是生成。
拆开之后,该快的地方更快了,该贵的地方只在必要时出场。
如果你的机器人正卡在"匹配慢、轻量模型又不听话"这两点上,建议先从分支最多、话术最标准的那条业务流程开始试点,跑一周真实对话,再决定要不要全面铺开。
完整的配置步骤与示例,可以参考 AICC 的两篇内部文档:使用决策模型选择回答分支、决策模型配置。
DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐



所有评论(0)