Vodafone transforms data operations with AI using LangChain and LangGraph

Vodafone 使用 LangChain 和 LangGraph 通过 AI 转型数据运营

了解领先的电信公司 Vodafone 如何使用 LangChain 和 LangGraph 为其 3.4 亿+ 客户提供性能指标监控和信息检索聊天机器人。

5 分钟阅读

Vodafone 是一家领先的欧洲和非洲电信公司,为超过 3.4 亿客户提供服务。其服务涵盖移动和固定网络及服务、物联网和企业解决方案,并高度重视创新。在 AI 和数据领域,Vodafone 正在解决与其欧洲数据中心网络的实时性能分析、基础设施管理和运营效率相关的复杂挑战。

为了简化数据运营并增强其工程团队的能力,Vodafone 使用 LangChain 和 LangGraph 构建了多个 AI 助手,以促进智能数据访问、自然语言驱动的洞察和复杂的问题解决。

Vodafone 的 GenAI 应用

目前,Vodafone 开发了两个 AI 驱动的内部聊天机器人,它们部署在 Google Cloud 上,以支持在其数据中心的多个运营部门工作的工程师。这些 AI 助手帮助 Vodafone 改善客户体验

  • 性能指标监控(洞察引擎): 该助手通过将自然语言查询转换为 SQL,从数据中心监控系统中检索关键数据,从而分析性能指标。这为工程师和运营人员提供动态的、数据驱动的洞察,而这些洞察以前只能通过自定义仪表板访问。
  • 从 MS-Sharepoint 检索信息(Enigma): 该助手可以高效访问数千份技术文档和资源。工程师可以提出问题来验证特定设计、检索库存详细信息或识别组织内的联系人,从而减少花费在筛选文档上的时间。

借助这些代理,Vodafone 可以通过动态创建数据视图来支持快速且更准确的决策,从而更快地诊断和响应事件。因此,这减少了工程师对自定义仪表板或查询的依赖,以便查看性能指标,从而为他们提供对内部资源的更深入洞察。

使用 LangChain 灵活构建 RAG 管道 

Vodafone 之所以为这些 GenAI 计划采用 LangChain,是因为其可组合且全面的框架。LangChain 集成了文档加载器、模型和向量数据库等基本组件,使 Vodafone 能够快速原型设计和部署针对其用例量身定制的 AI 应用。Vodafone 利用 LangChain 试验了多种 LLM,包括 OpenAI 的模型、LLaMA 3 和 Google 的 Gemini,从而优化了每个特定用例的性能。

具体而言,文档加载器帮助 Vodafone 的工程师处理各种文档(从 HLD、蓝图和招标书 (RFP)),这些文档将被载入多向量数据库中。通过 RAG 管道,这些文档随后被其信息检索助手转换为可操作的洞察,从而生成最终用户所需的图像、表格和其他信息。

LangChain 通过为文档处理和管道测试提供现成的工具,缩短了开发时间。它还使 Vodafone 能够有效地跨各种管道对 LLM 性能进行基准测试。

“我们使用 LangChain 的组件已有一年多了,” 云解决方案、编排和智能高级经理 Antonino Artale 说。 “它已成为我们从开源实验过渡到生产级 AI 系统的关键推动因素。”

使用 LangGraph 扩展多代理工作流程 

随着 Vodafone 扩展其 GenAI 功能,公司的团队转向 LangGraph 来实施多代理架构并构建更复杂的 AI 系统。LangGraph 的灵活性和对可控代理框架的关注使团队能够超越简单的代理,开发具有代理间协调的复杂工作流程。

Vodafone 团队利用 LangGraph 来实现

  • 模块化代理设计: Vodafone 使用 LangGraph 将模块化代理构建为子图,每个子图都有负责特定任务的特定工具。这种架构可以轻松添加新功能,例如数据收集模块、处理模块、报告生成器和使用 RAG 管道的高级推理,而无需重新设计整个系统。
  • API 集成: 使用 LangGraph 快速部署 API 的能力确保了与 Vodafone 更广泛生态系统的无缝集成,使 AI 代理能够根据事件驱动的架构模式动态地编排自己的工具。
  • 可靠的代理性能: LangGraph 的验证工具帮助 Vodafone 测试多代理工作流程,并通过验证不同的工作流程状态、节点连接验证和测量节点延迟来确保一致的性能。

LangGraph 价值的一个例子是其在配置多代理工作流程以用于多代理洞察引擎和 Enigma 中的作用。LangGraph 放置在用户提示之后,它将在其中理解用户查询的意图,并将请求编排到适当的链。

在 Enigma 的案例中,如果查询与文档摘要相关,代理会将请求定向到适当的链。反过来,这将从多向量数据库中获取相关上下文,并将基于事实的摘要响应呈现给用户。

在洞察引擎的案例中,如果查询与库存数据相关,则代理会将请求定向到 NL2SQL 链,该链会将 NL 查询转换为 SQL 查询并将响应发送回代理。然后,代理会将请求转发到另一个查询处理链,该链将查询库存数据库、接收结果,然后将信息传递给 LLM 以根据查询响应创建图表和图形。

总之,LangGraph 为 Vodafone 团队的两种多代理工作流程提供支持: 

  • Enigma | 该代理与 Knowledge Hub 无缝集成。它采用向量数据库,可以更快、更准确地跨文档检索上下文,为 LLM 提供更多上下文,并使其能够提供更明智和准确的答案。
  • 洞察引擎 | 该代理执行无缝查询转换,轻松地将自然语言查询转换为结构化格式,例如 SQL、NoSQL 和其他服务。它还应确保通过使用先进的机器学习技术快速访问数据中心性能指标、库存和检测到的异常来高效检索数据。此外,将结果传递给另一个负责生成自定义可视化的代理。

未来计划使用 LangSmith 为 LLM 应用提供支持

LangSmith 为整个应用生命周期提供一体化解决方案,包括调试、评估和性能跟踪。这使其特别适用于大规模、可用于生产的应用,从而可以更好地洞察 LLM 的内部工作原理。 

此外,LangSmith 支持开发人员和主题专家之间的协作,确保应用不仅功能齐全,而且符合用户需求。通过与现有工作流程无缝集成,LangSmith 使团队能够快速有效地迭代,最终带来更可靠和强大的 AI 解决方案。

结论 

借助 LangChain、LangGraph 和 LangSmith,Vodafone 已成功为其工程和运营团队交付了先进的 AI 驱动解决方案。这些工具实现了

  • 缩短了关键基础设施问题的洞察时间。
  • 通过模块化、API 集成的代理设计增强了可扩展性。
  • 面向未来的系统,可以轻松适应新的领域和数据源。

展望未来,Vodafone 计划将其 GenAI 管道扩展到其他数据湖,构建更复杂的多代理系统,并改进其基准测试流程,以用于更广泛的 AI 应用。