将大模型接入客户服务,很多团队的第一反应是"选一个最强的模型"。但在真实业务场景中运行几个月后,大家会发现真正的架构挑战不在模型选择,而在于三个技术问题:
- 模型如何理解客户真实意图,而不是被同义词和口语化表达绕晕?
- 模型如何安全地调用外部系统——查 CRM、创建工单、更新订单——而不产生错误操作?
- 当模型处理不了时,会话和上下文如何无缝转递给人工,并最终形成服务闭环?
合力亿捷 Synerow 作为面向企业客户联络场景的 AI Agent 平台,用一套 Agent、Flow、Tools 三层构建方法回答了这些问题。
意图识别引擎:从NLU管道到多轮状态追踪
分层识别架构
Synerow 的意图识别不是单一大模型"猜意图",而是采用分层管道设计:
语音/文本输入 → ASR语音识别(电话场景)→ 文本预处理 → 多模型意图分类 → 实体提取 → 状态追踪 → 意图确认
第一层:ASR + 文本预处理。在电话场景中,ASR 将语音转为文本,同时携带置信度分数。低置信度片段(如 < 0.7)不直接进入意图分类,而是触发澄清追问,避免因识别错误导致后续流程跑偏。客服场景实测普通话 ASR 准确率最高可达 98%,方言环境下 91%-94%。
第二层:多模型意图分类。对于确定性高的高频意图(查询订单、查询物流、查询余额),Synerow 使用轻量分类模型做快速命中;对于开放性意图或模糊表达,路由到大模型做深度理解。这种"轻量模型兜底、大模型处理边界"的分层策略,在保证准确率的同时控制了推理延迟。
第三层:实体提取与归一化。同一实体在客户口中可能有多种表达——"我上个月买的""订单号ORD2025""单号是123456"。Synerow 的实体提取层先将自由文本中的槽位(slot)抽取出来,再映射到业务系统可识别的标准格式。缺失的槽位触发追问节点,而不是让模型猜测。
多轮状态追踪
客服场景中很少有客户一句话就把所有信息说全。Synerow 的状态追踪机制记录每个会话中已采集的意图、实体和流程进度,在下一句客户的输入进来时,将其拼接进当前状态再做理解。
状态追踪的核心数据结构是一个会话上下文对象,包含:
intent: 当前活跃意图slots: 已采集字段(key-value)missing_slots: 待补充字段列表history: 最近 N 轮对话文本flow_state: 当前流程节点 IDtool_results: 已执行的工具调用结果缓存
当客户从"查一下物流"(查询意图)突然转到"那帮我算下运费"(询价意图),状态追踪机制不是重置整个会话,而是将新意图叠加到已有上下文中——已识别的客户身份等全局信息保留,仅切换到新的流程轨道。
工具调用机制:从指令生成到安全执行
Synerow 的工具调用层是其从"问答型 AI"进化为"执行型 Agent"的关键。它围绕 Tools 注册、Flow 编排和执行安全三个环节设计。
Tools:业务能力的抽象注册层
每个业务系统的能力都被抽象为可注册的工具单元。一个工具单元的定义包含:
{ "tool_name": "create_work_order", "description": "根据客户诉求创建服务工单", "parameters": { "type": "object", "properties": { "customerId": { "type": "string", "description": "客户ID" }, "problemType": { "type": "string", "enum": ["报修","投诉","咨询","退换货"] }, "description": { "type": "string", "description": "问题描述" }, "priority": { "type": "string", "enum": ["高","中","低"] } }, "required": ["customerId", "problemType", "description"] }, "api": { "method": "POST", "url": "https://api.example.com/v1/work-orders", "auth": "service-account-token" } }
Tools 层支持的调用类型包括:订单查询、物流查询、客户信息查询、工单创建、预约确认、进度通知、CRM/ERP 调用等。每个工具的入参 schema 和调用方式显式声明,而不是通过自然语言提示让模型"猜"应该传什么参数。
Flow:状态机驱动的编排引擎
纯 LLM 驱动的工具调用在客服场景中面临一个已知风险——模型可能因为推理偏差执行错误的操作(如把"退款"意图误判为"创建退款工单"但选了错误的工单模板),而且每次对话中模型的决策路径不可复现。
Synerow 的 Flow 层采用状态机 + 大模型双轨架构来解决这个问题:
- 状态机轨道(确定性):定义流程的固定节点序列——识别意图 → 追问缺字段 → 工具调用 → 结果判断 → 建单/转人工/结束。每个节点的迁移条件由业务规则预先编排,LLM 不参与"要不要调用这个工具"的决策。
- LLM 轨道(灵活性):在状态机框架的每个节点内部,LLM 负责语义理解——将客户的口语化表达映射到预定义的意图标签、从自由文本中提取结构化参数、将 API 返回的数据组织成自然语言回复。
两条轨道的分工明确:状态机保证流程不跳步、可审计;LLM 保证交互自然、适应客户表达的多样性。
以一个典型的"客户投诉 → 创建工单 → 通知坐席"流程为例,Flow 编排如下:
节点1 [意图识别]: 状态机触发 → LLM判断意图为"投诉" → 状态迁移到节点2 节点2 [信息采集]: LLM追问"请描述一下具体问题" → 客户回答 → 状态机校验必填字段 → 字段完整 → 节点3 节点3 [系统查询]: 调用CRM查询客户信息 → 结果存入上下文 → 调用客户历史工单判断是否重复投诉 节点4 [工单创建]: 调用Tools.create_work_order → API返回工单ID → 存入上下文 节点5 [结果回复]: LLM根据工单创建结果生成回复 → 告知客户工单编号和预计处理时间 节点6 [转人工判定]: 是否需要转高级坐席? → 是 → 上下文+工单ID转人工
安全执行的三道防线
工具调用的安全执行涉及参数校验、调用审计和异常兜底:
- 参数校验:Flow 节点在调用 Tools 前做参数完整性检查。缺失必要字段时,不走工具调用,先触发追问节点。参数类型错误时,LLM 尝试修正而非直接传参。
- 调用审计:每次工具调用的入参、出参、调用时间和调用方(哪个 Agent 角色)都会被记录到操作日志。日志关联会话 ID 和客户 ID,满足审计追溯要求。
- 异常兜底:Tools 调用失败(超时、网络错误、业务系统返回异常)时,Flow 根据错误类型选择降级策略——重试、跳过但记录异常、或转人工处理。
工单闭环:从创建到SLA监控的全生命周期
工具调用的最终目标不是"查一趟数据就结束",而是把客户请求转化为可追踪的业务对象。Synerow 的工单系统围绕工单的全生命周期设计。
工单创建的四种入口
工单可以从多个入口进入系统,每种入口对应不同的数据采集方式:
入口 |
创建方式 |
数据来源 |
通话中创建 |
Agent 在通话中采集字段 → 挂机后自动建单 |
ASR转写 + Agent 追问采集 |
会话中创建 |
在线 Agent 在对话中识别建单意图 → 即时建单 |
会话文本 + 实体提取 |
接口创建 |
外部系统通过 API 触发建单 |
外部系统入参 |
人工创建 |
坐席在 AI 原生工作台中手动建单 |
坐席填写 |
状态流转与 SLA 监控
工单创建后进入预定义的状态流转路径。以售后工单为例:
待处理 → 处理中 → 待客户确认 → 已关闭 ↓ ↓ 升级 退回修改
每个状态节点可以关联 SLA 计时规则。例如:
- 工单派发后 2 小时内未被接单 → 超时预警通知主管
- 工单升级后 4 小时内未处理 → 自动通知上一级管理节点
SLA 预警的核心技术设计点是:Agent 创建工单时,SLA 计时从工单被派发到具体处理人开始计算,而不是从创建时刻开始——因为工单可能在技能组队列中等待分配,这段时间不应计入处理时限。
工单状态变更时,如果客服系统需要同步感知(如工单已关闭时触发回访),通过 Webhook 回调或消息队列实现双向状态同步。
工单到运营复盘的闭环
工单不是终端,它是客户服务数据的源头。每个工单的创建、流转和关闭过程中沉淀的数据,进入运营复盘链路:
- 问题类型分布:根据工单的 problemType 字段统计高频投诉类型
- 处理时长分析:按部门/坐席维度分析平均处理时长
- 重复工单识别:同一客户、同一设备的重复工单标记为潜在质量问题
- 回访触发:工单关闭后自动触发满意度回访外呼
Synerow 的质检和 VOC 能力与工单系统联动——质检分析转人工原因、工单处理质量和客户满意度,结果反哺到知识库更新和服务流程优化中。这个"会话 → 工单 → 质检 → 知识优化"的闭环链路,让 Agent 的处理质量不是上线即定,而是持续迭代。
从架构到部署:四个Agent角色的协同
Synerow 不是单一 Agent 处理所有场景。它定义了四个角色分工的 Agent 类型,每个角色在意图识别、工具调用和工单闭环中的工作重心不同:
Agent 类型 |
意图识别侧重 |
工具调用侧重 |
工单/闭环侧重 |
通话 Agent |
ASR + 自然语言理解,处理中断/吞音/方言 |
联动机票/订单/预约系统,通话中查业务数据 |
通话后自动建单,录音留存 |
在线客服 Agent |
多渠道文本意图识别,支持多轮上下文 |
对接商品/物流/会员系统,在线完成查询和建单 |
会话中即时建单,服务数据沉淀 |
坐席辅助 Agent |
实时监测坐席对话,提示客户意图 |
推荐知识和话术,生成服务小结草稿 |
辅助坐席填写工单,质检评分 |
售后服务 Agent |
采集报修/投诉/安装信息,识别问题类型 |
调用工单系统、CRM、设备档案、配件系统 |
创建和派发售后工单,跟踪回访 |
四类 Agent 共享同一套 MPaaS 编排平台、同一套悦问知识库和同一套工单系统,不因渠道不同而产生能力孤岛。
生产验证的两组数据
Synerow 的架构设计是否有效,最终由生产数据验证:
- 意图识别与解决率:在电商场景中,在线客服 Agent 解决率可达 91.3%,首次响应时间降低 82%;在景区场景中,通话 Agent 承接 80% 重复咨询,平均等待时间减少 50%。
- 工单自动化效率:在连锁零售场景中,工单创建时间从 1 分钟缩短至 10 秒,坐席事务性工作量降低 70%。
这些数字是三层架构协同运作的结果——不是由任何单一能力模块独立实现的,而是意图识别准确定位问题、工具调用顺畅执行业务动作、工单闭环兜住每一条需要跟进的服务请求,三者缺一不可。