领先的公司,如优步 (Uber)、领英 (LinkedIn) 和 Replit,正在选择 LangGraph 来构建不仅强大而且可靠的 Agent。2024 年,重点转向为特定业务需求设计的专业 AI Agent。但是,要使 AI Agent 准备好投入生产,并非像插入 LLM 以产生智能输出那样简单。公司需要提供可靠性、可观察性和控制的解决方案。
本文探讨了将 AI Agent 投入生产的关键挑战,以及领英 (LinkedIn) 和 Replit 等领先公司如何在 LangGraph 的帮助下克服这些挑战。🪄
许多公司正在选择 LangGraph 以构建可靠的 Agent
各行各业的公司都在转向 LangGraph,以构建可扩展的 Agent 系统。领英 (LinkedIn) 通过构建 AI 驱动的招聘人员来简化招聘流程,该招聘人员可以自动执行候选人寻源、匹配和消息传递。他们基于 LangGraph 构建的分层 Agent 系统,已将他们的人工招聘人员解放出来,专注于高层战略,从而提高了招聘效率。
另一个提高运营效率的例子 —— AppFolio 创建了一个 Copilot,它为他们的物业经理每周节省了 10 多个小时,因为 LangGraph 帮助他们减少了应用程序延迟,并将决策的准确性提高了 2 倍。
对于 优步 (Uber) 和 Replit 而言,LangGraph 在扩展复杂工作流程时大大加快了开发周期。Replit 的 AI Agent 充当从头开始构建软件的 Copilot;借助底层的 LangGraph,他们构建了一个具有人工参与 (human-in-the-loop) 功能的多 Agent 系统(因此用户可以查看他们的 Agent 操作,从软件包安装到文件创建)—— 使开发更加透明。
优步 (Uber) 集成了 LangGraph,以简化其开发者平台内的大规模代码迁移。他们仔细地构建了一个专业 Agent 网络,以便精确地处理单元测试生成的每个步骤。同样,Elastic 也使用了 LangGraph 来编排他们的 AI Agent 网络,以进行实时威胁检测 —— 这帮助他们更快、更有效地应对安全风险。
为什么将 AI Agent 投入生产如此困难?
虽然由 LLM 驱动的 Agent 具有巨大的潜力,但使其准备好投入生产却具有挑战性 —— 尤其是在确保性能质量和可靠性方面。
通过与数百家公司的密切合作,我们看到了在生产环境中部署 Agent 的以下主要障碍:
- LLM 的不可预测性 - 与传统软件不同,AI Agent 不遵循固定的规则集。相反,它们动态生成响应。最重要的是,Agent 的用户体验允许自由格式的文本输入,包括不可预测的人类语言 —— 这使得难以保证准确且符合上下文的响应。
- 编排的复杂性 - 许多实际应用需要多个 Agent 协同工作,每个 Agent 处理不同的任务。有效地协调它们 —— 包括管理任务依赖性、错误恢复和通信 —— 增加了另一层难度。
- 可观察性和调试限制 - 当 Agent 做出错误决策时,理解原因可能就像大海捞针。诊断故障和维护性能需要强大的跟踪和监控,而大多数 Agent 框架都没有内置这些功能。
鉴于这些障碍,我们看到大多数公司选择框架来拥有合适的工具集,以满足他们交付生产环境的标准。这也是 LangGraph 发挥作用的地方。
什么是 LangGraph?
LangGraph 是一个为生产使用而设计的可控 Agent 框架。与其他 Agent 框架不同,LangGraph 具有以下特点:
- 低级别和可定制 – LangGraph 允许您灵活地为公司定制需求设计 Agent。LangGraph 原语是完全描述性的,并且与更高级别的抽象不同,可以扩展到原型设计之外。
- 高度可靠 – 通过审核检查、人工参与和长期运行工作流程的持久化上下文,全面控制 Agent 操作 —— 从而使您的 Agent 能够保持在正确的轨道上。
- 针对可观察性进行了优化 – 虽然 LangGraph 不依赖于任何其他 LangChain 产品,但它与 LangSmith 无缝集成,以增强对 Agent 交互、性能监控和调试的可视性。
当我们在 2024 年初构建 LangGraph 时,我们有意让开发者可以选择构建 Agent,而不会受到黑盒架构的限制。LangGraph 此后已成为许多生产环境中的 Agent 应用的默认框架。我们从 LangChain 中了解到,虽然更高级别的抽象可以帮助开发者快速入门,但正是较低级别的灵活性才能处理各种生产查询。LangGraph 的学习曲线更陡峭,但用户发现他们不会因此而停止扩展。
LangGraph 赋能 AI Agent 的未来
随着我们进入 2025 年,LangGraph 蓄势待发,将推动下一波 AI Agent 采用浪潮。通过借鉴这些领先公司的经验,我们的目标是赋能更多开发者构建可靠、可用于生产环境的 AI Agent。
正在寻找更多见解?查看关于公司如何使用 LangGraph 的最新案例,或探索我们关于如何构建有效 AI Agent 的最新视频教程。