从人工接力到 Agent 协同:金蝶发票云基于中国区域 Amazon Bedrock AgentCore,工程化上线时间缩短80%
优势
- 工程化时间缩短约 80%(自研预估 6 个月以上 → 1 个月上线)
- 80%
- 工单首次响应时长从约 15 分钟缩短至约 3 分钟
- 3分钟
- 客服人均日处理工单量提升约 3 倍
- 3倍
- agent 回复一次通过率从 60% 提升至 80%(上线两周内)
- 80%
概述
金蝶发票云 TicketHub 工单系统是面向金蝶发票云所有云端 SaaS 客户和私有化部署软件客户的智能工单管理与客户服务协同 SaaS 平台,覆盖工单接入、分类流转、处理协同和服务质检全流程,服务客户超过 2 万家,日均处理工单超过 1000 条。
为了让客服工作从"查找和录入"转向"判断和确认",TicketHub 选择在亚马逊云科技中国区域,基于 Amazon Bedrock AgentCore 托管运行多 agent 工单处理系统。项目从启动到生产上线仅用 1 个月,工单首次响应时长从约 15 分钟缩短至约 3 分钟,客服人均日处理工单量提升约 3 倍。
目前,TicketHub 主要使用的亚马逊云科技服务包括:Amazon Bedrock AgentCore(Runtime、Gateway、Identity、Observability)、Amazon Elastic Container Service (Amazon ECS)、Amazon CloudWatch、Amazon Simple Storage Service (Amazon S3)、Amazon Elastic Compute Cloud (Amazon EC2)、Amazon Relational Database Service (Amazon RDS) 等。
机会
工单越接越多,处理仍靠"人工接力"
一个客户问题往往要经过漫长的接力:客服先阅读工单、判断类型和优先级,再转给对应团队;处理人查找知识库、翻阅历史工单、起草回复;遇到复杂问题,还要跨部门升级、多人会签。到了月末和促销季,工单量激增,排队和超时随之而来。
传统工单系统的自动化主要停留在规则层面:按关键词匹配的分类规则维护成本高,模板化的自动回复理解不了上下文,知识库检索还得靠人工翻阅。随着服务客户数量不断扩大,尤其是近期接入了海外客户的服务需求,金蝶发票云希望打造多 agent 工单处理系统:客户提交工单后,由 agent 完成分类、分流、知识检索和回复草拟,人工客服核对确认后再发出。
金蝶发票云服务的大型客户对服务要求极高,引入 AI agent 不能牺牲服务的可控性和效率。TicketHub 需要同时应对以下挑战:
- 多 agent 工程化:工单处理涉及分类、分流、检索、草拟、质检等十余个专职 agent。如果自建运行、隔离、观测和评估基础设施,工程周期长、难度高,团队估算自研需要 6 个月以上。
- 数据隔离与多租户安全:作为多租户 SaaS,不同企业客户的工单数据必须严格隔离,agent 的执行环境同样需要会话级沙箱。
- 服务质量可评估、可持续优化:agent 的回复质量不能"上线即定论",需要上线前的基准评估和上线后的持续评估,支撑快速迭代。
- 业务波峰:促销季和月末的工单量可达平日 3 倍以上,agent 运行资源需要按需弹性扩展。
在考察众多候选方案后,金蝶发票云选择在亚马逊云科技中国区域,以 Amazon Bedrock AgentCore 承载多 agent 工单处理系统,主要基于三点考虑:
- 完整的 agent 管理体系:AgentCore 提供从托管运行、沙箱隔离、工具接入到可观测的生产就绪组件,团队不必自建 agent 基础设施,显著缩短工程化时间、降低工程化难度。
- 框架与模型自由:Runtime 支持任意主流 agent 框架,可以自由选用中国区域可用的大模型,避免技术绑定,便于为不同工单场景选择合适的模型。
- 安全合规:Runtime 以会话级沙箱实现租户间隔离,满足企业客户对数据境内处理与合规的要求;中国区域与海外架构保持一致,保障技术栈的长期延续性。
解决方案
TicketHub 以 Amazon Bedrock AgentCore Runtime 托管 12 个专职 agent 运行,以 AgentCore Gateway 连接既有业务工具,以自建评估集和 LLM-as-judge 方法构建评估体系,以 AgentCore Observability 构建观测体系,打通"工单接入 → 分类分流 → 知识检索 → 回复草拟 → 人工确认 → 质检回流"的完整链路。项目实际部署在亚马逊云科技中国(宁夏)区域。
在这套方案中,agent 负责工单理解、分类分流、知识检索和回复草拟;业务系统继续负责权限校验、服务等级协议(SLA)规则和升级流程;回复发出前保留人工确认。
会话级沙箱管理,省去自建隔离执行环境
AgentCore Runtime 为每个会话提供独立的 microVM,隔离计算、内存和文件系统资源。对多租户 SaaS 来说,这意味着每个客户的工单处理会话都运行在彼此隔离的沙箱中,团队无需自建会话级执行沙箱和租户隔离层,也无需自行维护沙箱的生命周期。工单数据只在所属会话内可见,处理完成后沙箱即被回收;再配合业务后端的权限校验,运行环境隔离和业务授权同时生效。
工程化的 agent 评估方法,质量优化有据可依
TicketHub 用自建评估集和 LLM-as-judge 方法,为分类准确率、检索命中率、回复可用率等关键指标建立了评估基线:上线前,用历史工单构建评估数据集,对 agent 做离线基准评估,不达标不上线;上线后,对生产流量持续做在线评估,评分异常自动告警。
结合基于 Amazon CloudWatch 的 AgentCore Observability,团队能够还原每个 agent 的计划执行和工具调用过程,把低分工单回溯到具体的检索或推理步骤,定位问题、分析耗时,为技术排障和审计核查提供依据。
生产就绪组件自由组合,1 个月完成上线
依托 Runtime、Gateway、Identity、Observability 等生产就绪、开箱即用的组件,TicketHub 跳过了自建 agent 基础设施的阶段:通过 AgentCore Gateway 把 20 余个既有业务接口快速转化为 agent 可用的工具,通过 AgentCore Identity 统一管理 agent 访问下游系统的身份和权限。团队得以把精力集中在工单技能和提示词优化上,项目从启动到生产上线仅用 1 个月,相比自研方案预估的 6 个月,工程化时间缩短约 80%。
面对促销季和月末的工单高峰,Runtime 按需扩展 agent 运行资源,减少了按峰值长期预留算力、维护进程池的负担。
架构图
金蝶发票云 TicketHub 基于 Amazon Bedrock AgentCore 的架构示意图
业务成果
- 上线快:项目从启动到生产上线仅用 1 个月,相比自研预估的 6 个月,工程化时间缩短约 80%。
- 响应快:12 个专职 agent 接入工单处理全流程,工单首次响应时长从约 15 分钟缩短至约 3 分钟。
- 人效高:客服人均日处理工单量提升约 3 倍,客服工作从"查找和录入"转向"判断和确认"。
- 质量持续提升:上线两周内完成首轮提示词与检索策略优化,agent 回复一次通过率从 60% 提升至 80%,工单自动预处理覆盖率稳定在 85% 以上。
- 持续迭代:采用 Agent DLC 工程实践,建立"离线基准评估 + 在线持续评估"机制:在线评估持续为每个 agent 打分,低分工单自动回流为评估样本和知识库素材;每轮优化先经离线基准评估验证再灰度发布,具备按周迭代优化的能力。
未来,金蝶发票云计划将 agent 能力扩展到主动服务、产品研发工程提效等更多场景,并把评估数据集和规则库沉淀为可持续运营的知识资产,以"可控、可追溯、持续优化"为原则,为更多企业带来智能化的工单处理与客户服务体验。
客服场景的 AI,不是替代人,而是让每个人工判断都更有依据。我们让 agent 承担分类、检索和起草,让业务系统守住 SLA 和权限规则,让客服确认每一次对外回复。Amazon Bedrock AgentCore 的沙箱管理与可观测能力,让我们不用重复造轮子,1 个月就把这套体系跑了起来,并且能持续优化下去。
覃强
金蝶发票云 CTO关于金蝶发票云
金蝶发票云是金蝶国际软件集团旗下独立子公司金蝶票据云科技(深圳)有限公司的品牌产品。金蝶票据云科技 2020 年成立于深圳,2023 年取得"国家高新技术企业"和"专精特新"资质,以"业财票税档"一体化管理为核心,助力企业运用 AI 等数智化技术实现复杂的业财税票协同管理。其智慧票据云产品综合运用 AI、大数据和云计算技术,荣获吴文俊人工智能科学奖及 10 多项发明与实用新型专利授权,已为全球近 10 万家企业和政府组织提供智能化 SaaS 服务,覆盖互联网、金融、生产制造、建筑与房地产、交通运输、医疗、餐饮、零售等 40 多个行业。