挑战
随着全球商务加速发展，Adyen 是一家公开上市的金融技术平台，通过在单一全球解决方案中提供端到端的支付能力、数据驱动的洞察和金融产品，帮助 Meta、Uber、H&M 和 Microsoft 等大型公司更快地实现其雄心壮志。
随着更多商户签约以及交易量增加，支持团队的压力也随之增加，Adyen 的一个团队立即寻求利用解决方案。“我们是工程师，所以我们一直在寻找利用技术扩展业务的方法，而无需增加团队规模，”工程高级副总裁 - 数据 Andreu Mora 说。“我们希望理解、利用和推进像大型语言模型这样的技术，以提高我们团队和客户的效率和满意度。”
Adyen 成立了一个由数据科学家和机器学习工程师组成的新精干团队，驻扎在他们在 西班牙马德里 的新科技中心，负责一系列高影响力项目，最初的目标是加速支持团队。
解决方案
专注于支持团队的效率和满意度，使团队洞察到团队之间传递工单是影响响应时间的主要因素。这一挑战特别适合通过两个初始的大型语言模型应用来解决：
- 一个智能工单路由系统，旨在根据内容尽快将工单分配给合适的客服人员
- 一个支持坐席副驾驶，旨在通过他们称之为问题解答建议的方法，帮助坐席更快、更准确地回复工单。
Adyen 决定使用 LangChain 来构建它，因为他们可以依赖一个单一的、易于定制的框架，从原型到生产，并避免在他们进行实验时被锁定在单一模型中。他们还依赖 LangChain 的开发者平台 LangSmith 来评估应用程序的性能，并比较不同的底层模型如何影响响应质量和成本。
LangChain 的灵活性使 Adyen 能够轻松地在各种大型语言模型之间切换链条的核心部分。为了确保与其内部大型语言模型 API 端点的无缝交互，他们引入了一个从 LangChain 的基础大型语言模型类扩展而来的自定义类，并将其与托管在 Kubernetes 集群中的事件驱动的微服务架构集成。要更深入地了解 Adyen 智能工单路由和支持坐席副驾驶背后的技术方面，请查看 Andreu Mora 和 Rafael Hernandez（运营 AI 团队负责人）在 Adyen 博客 此处 发布的深入技术分析。
结果
更高效和准确的工单路由
Adyen 智能工单路由器的基础是一个内部工具，它可以分析每个工单的主题和情感，并根据用户动态更新其优先级。凭借 Adyen 广泛的产品、功能和服务，这种大型语言模型驱动的方法使商户能够从最适合快速响应的技术专家那里获得支持。
更快的支持响应时间
在短短 4 个月内，Adyen 团队就能够构建一个全面的相关文档集合（结合公共和私人公司文档），并将它们存储在向量数据库中，并使用针对有效检索优化的嵌入模型。该团队在生成建议的工单回复的道路上的第一个里程碑是从公共和私人文档集合中找到最相关和最新的文档。这种方法远远优于传统的基于关键词的搜索，并且同样重要的是，立即建立了团队对新系统的信任。
下一步是连接到大型语言模型，通过其专有的副驾驶为支持坐席生成建议的回复。“有了队列中正确的工单以及触手可及的、易于修改的客户咨询潜在答案，支持坐席的工作效率和满意度都更高了。”Andreu 说。