前段时间和一个已经离职的朋友聊天,他提到自己在一场三面中遇到的问题:设计一个客服系统,什么时候该走自主 Agent 推理,什么时候又该走 Workflow 规则?
这个问题看似简单,却是团队将 LLM 落地到生产系统时绕不开的架构决策。我借着这次面试的契机,重新梳理了一遍,也补充了几个具体场景。
一、为什么这个问题重要
Agent 这个概念火起来之后,一个常见的想法是:既然模型已经这么强了,为什么还要把流程写死?直接让 Agent 自己决定不就行了吗?
但在真实生产系统里,答案没有这么简单。Agent 的自主推理带来了灵活性,同时也引入了不确定性。客服系统对稳定性、合规性和成本都很敏感:退款金额算错,或者一次误操作造成资损,后果可能比多次“回答不够智能”的投诉更严重。

所以,这道题不是在问“Agent 好还是 Workflow 好”,而是在问:如何让两者在同一个系统里各司其职?
二、判断的核心标准
我的判断标准可以浓缩成一句话:
如果能画出一张流程图,覆盖 90% 以上的情况,就优先考虑 Workflow;如果流程图会随着每次任务的不同而改变形状,就考虑 Agent。
这里的 90% 是一个经验性判断,而不是适用于所有业务的硬性阈值。具体选择还要结合风险、成本和实际流程来看。

展开来说,有三个维度可以帮助决策。
1. 路径是否可枚举
比如用户问:“我的订单到哪了?”无论用户怎么表达,系统要做的事情基本都是几步:识别订单号、调用物流接口、格式化返回。分支也相对固定,例如有没有单号、单号是否存在。这类问题用 Workflow 就能覆盖。
反过来,用户说:“这个东西又贵又慢,客服态度还差,我要投诉。”这里面藏着价格异议、物流时效和服务态度三个诉求。用户接下来还可能补一句:“算了,我就是想要个补偿。”这类对话路径很难提前穷举,可以交给 Agent 动态拆解,再通过多轮对话追问。

2. 错误的代价有多大
假设用户申请退款 500 元。如果让 Agent 自己判断“该退”,然后直接调用支付接口执行退款,风险就很大。用户的一些诱导性话术,例如“我朋友上次退了两次都没事”,可能影响模型判断;一旦校验被绕过,就可能造成资损。
更稳妥的做法是:Agent 负责理解退款诉求、辅助判断是否符合退款条件;真正执行退款前,必须经过独立于 LLM 的规则引擎,校验订单状态、退款次数和金额上限等条件。规则校验与 Agent 的判断解耦,不能由模型的语义判断替代。

3. 是否需要理解模糊语义
用户问:“我是双十一买的,现在过了七天,还能退吗?”如果订单恰好涉及大促期间的延长退货政策,就需要结合具体条款理解这个边界情况。
此时,Agent 可以结合 RAG 检索到的促销政策条款进行语义判断,再给出带依据的解释。至于退款能否真正执行,仍应交给确定性的业务规则校验。

三、分层架构:让两者协同,而不是二选一
客服系统不必在 Agent 和 Workflow 之间二选一,可以通过分层设计让两者协同。

第一层:意图路由
先用轻量分类器或规则判断问题类型。查订单、查物流、查余额等标准问题,直接分流给 Workflow;模糊、复杂或带有情绪的问题,再交给 Agent。
举个场景:在一个日均咨询量百万级的客服系统中,假设“查物流”占到 60% 以上。如果这类问题也走完整的 Agent 推理链路,成本和延迟都可能上升。但用户可能只是想尽快拿到一个查询结果,比如在几百毫秒内得到回复。实际占比和响应时间目标仍需根据业务数据确定。

第二层:Workflow 承接确定性任务
第二层使用 Workflow 承接确定性任务。
查询类操作的核心是取数据、格式化输出,通常不需要复杂推理。
改地址、取消订单等标准写操作,有明确的前置校验和固定执行步骤,适合通过 Workflow 实现幂等处理和审计。
退款、赔付等敏感操作尤其要注意:即便“该不该退”的语义判断由 Agent 辅助完成,真正执行退款时,也必须再经过规则化的额度和权限校验,不能让 LLM 绕过这些校验直接调用支付接口。
第三层:Agent 承接不确定性任务
第三层由 Agent 承接不确定性较强的任务。
例如多轮澄清:用户只说了一句“东西坏了”,系统需要追问具体问题、购买时间,以及用户想退货还是换货。
再如复合诉求拆解:一句话里夹杂多个问题时,需要分别处理,再综合回复。
还有情绪安抚。面对愤怒或投诉场景,灵活、贴合上下文的表达很重要;如果只是机械应答,容易激化矛盾。
四、一个关键的工程技巧:执行前确认
即便整体架构以 Agent 为主导,也建议引入“工具白名单加执行前确认”机制。
具体来说,Agent 负责理解意图、编排对话、决定调用哪个工具以及传什么参数。真正的执行动作,尤其是写操作,交给确定性的 Workflow 子程序,由它完成参数校验和实际调用。
例如,用户说:“帮我把收货地址改成上海市浦东新区 XX 路。”Agent 解析出目标地址和订单号后,不直接调用改地址接口,而是先把参数传给独立的 Workflow 节点。该节点依次检查:
- 订单是否已经发货。假设业务规则规定发货后不能修改地址,就要拦截。
- 地址格式是否合法。
- 是否触发风控规则,例如短时间内反复修改地址。
校验全部通过后,系统才执行修改。Agent 本身从头到尾都没有直接写数据库的权限。

五、别忘了故障边界和降级策略
复盘这次面试时,我觉得还可以补充一个问题:如果 Agent 推理失败、置信度很低,或者陷入循环,该怎么办?
假设用户反复用模糊的话表达诉求,例如“不是,我说的不是这个意思”,Agent 连续三轮都没能明确用户意图。这时系统就应该触发兜底策略:自动转人工,或者退回明确的选项列表,让用户选择“退款、换货、投诉物流”。
不要让 Agent 继续自由发挥,越问越发散。这既是工程容错,也是用户体验的兜底。系统可以“笨一点但稳”,不能让用户一直困在兜圈子的对话里。

六、小结
客服系统的 Agent 与 Workflow 架构决策,归根结底是对风险和灵活性的权衡:

- 确定性强、错误代价高的任务,用 Workflow 和独立规则校验兜底。
- 不确定性强、需要语义理解的任务,交给 Agent 承接。
- 两者通过路由分流和执行前确认衔接,是配合关系,不是相互替代。
这类面试题考察的不只是某个技术点,更是对生产系统故障边界和风险控制的整体意识。从“做出一个 Agent Demo”到“让 Agent 系统真正落地”,这是一道容易被忽视、却很关键的门槛。