(24年10月更新):自从 LangGraph Cloud 发布以来,我们现在有了多种部署选项,以及 LangGraph Studio – 现在都归属于 LangGraph Platform 平台。LangGraph Cloud 与我们的 Cloud SaaS 部署选项同义。请点击此处查看更多详情。
在 LangChain,我们的目标是让构建 LLM 应用程序变得容易——这些系统将 LLM 连接到外部数据源和计算资源,以便对世界进行推理。让 LLM 决定应用程序的控制流程(即我们所说的代理)很有吸引力,因为它们可以解锁各种以前无法自动化的任务。然而,在实践中,构建能够可靠执行这些任务的系统非常困难。
为了解决这个问题,几个月前,我们推出了 LangGraph —— 一个用于构建代理和多代理应用程序的框架。与 langchain 包分开,LangGraph 的核心设计理念是帮助开发人员在代理工作流程中添加更好的精确性和控制,以适应现实世界系统的复杂性。
今天,我们推出了 LangGraph v0.1 的稳定版本,重申我们致力于帮助用户创建更多此类强大的代理系统,并且我们感谢 Klarna、Replit、Ally、Elastic、NCL 等众多领先公司已经依赖 LangGraph 将其公司的 AI 计划提升到新的水平。
我们也很高兴地宣布 LangGraph Cloud。LangGraph Cloud 目前处于封闭 Beta 测试阶段,是用于以可扩展、容错方式部署 LangGraph 代理的基础设施。它还提供集成的开发者体验,让您在原型设计、调试和监控代理工作流程时获得更高的可见性和信心。
请继续阅读以了解更多信息,并了解如何试用。如果您更喜欢视觉学习,可以点击此处查看我们的视频演示。
LangGraph v0.1:平衡代理控制与自主性
大多数代理框架可以处理简单的、预定义的任务,但在处理需要任何公司或特定领域上下文的复杂工作流程时会遇到困难。传统的 LangChain AgentExecutor 也是如此,但我们通过迭代和经验了解到,更高级别的抽象向开发人员隐藏了太多细节,最终导致系统缺乏可靠完成任务所需的控制。
LangGraph 相比之下,它具有灵活的 API,可让您设计自定义认知架构。这意味着您可以低级别地控制代码、提示和 LLM 调用的流程,这些流程接收用户输入以执行操作或生成响应。通过条件分支和循环,LangGraph 让用户可以构建具有分层或顺序决策模式的单代理或多代理设置。在 Norwegian Cruise Line 等公司,这种级别的代理控制至关重要。
“LangGraph 对我们的 AI 开发起到了重要作用。它用于构建具有 LLM 的状态化、多参与者应用程序的强大框架,改变了我们评估和优化面向客户的 AI 解决方案性能的方式。LangGraph 实现了对代理思考过程的精细控制,这使我们能够做出数据驱动和深思熟虑的决策,以满足我们客户多样化的需求。” - Andres Torres(挪威邮轮公司高级解决方案架构师)
LangGraph 还使添加审核和质量检查变得容易,以确保代理在继续执行任务之前满足某些条件。这可以保持代理正常进展,并减少其陷入不正确路径的可能性,而从不正确的路径中恢复的可能性很小。

对于像 Replit 这样的公司来说,LangGraph 的精细控制增强了他们交付可靠代理的能力。
“构建编码代理的原型很容易,但提高其可靠性却出奇地困难。Replit 希望向数百万用户提供编码代理——可靠性是我们的首要任务,并将长期保持如此。LangGraph 正在为我们提供构建和交付强大的编码代理所需的控制和人体工程学。” - Michele Catasta(Replit AI 副总裁)
对于最复杂或敏感的任务,仍然需要人工协作来补充代理自动化。LangGraph 通过其内置的持久层使人机代理协作成为可能。具体来说,使用 LangGraph,您可以
- 设计代理以显式等待人工批准,然后再执行任务并恢复其工作流程。
- 在执行代理操作之前对其进行编辑。
- 检查、重新连接、编辑和恢复代理的执行(在我们描述为“时间旅行”的功能中)。
对于 Elastic 等团队,这种设计灵活性改变了游戏规则。他们指出
“LangChain 在 LangGraph 方面取得了巨大的进步。LangGraph 为我们如何构建和扩展 AI 工作负载奠定了基础——从对话代理、复杂任务自动化到“开箱即用”的自定义 LLM 支持的体验。使用 LLM 构建复杂的生产就绪功能的下一个篇章是代理,借助 LangGraph 和 LangSmith,LangChain 提供了一个开箱即用的解决方案,可以快速迭代、立即调试和轻松扩展。” – Garrett Spong(Elastic 首席软件工程师)
最后,LangGraph 原生支持中间步骤的流式传输和逐令牌流式传输,为用户处理长时间运行的代理任务提供更动态和响应更快的体验。
LangGraph Cloud:具有集成监控功能的可扩展代理部署
为了补充 LangGraph 框架,我们还有一个新的运行时 LangGraph Cloud,现已推出 Beta 版,它提供了专为大规模部署代理而构建的基础设施。
随着您的代理用例越来越受欢迎,代理之间不均匀的任务分配可能会使系统过载,从而导致速度减慢和停机风险。LangGraph Cloud 完成了繁重的工作,以帮助您实现容错的可扩展性。它可以优雅地管理水平扩展的任务队列、服务器和强大的 Postgres 检查点程序,以处理许多并发用户并有效地存储大型状态和线程。
LangGraph Cloud 旨在支持真实世界的交互模式。除了流式传输和人工参与(LangGraph 中已涵盖)之外,LangGraph Cloud 还添加了
- 双重文本处理,用于处理图形当前运行线程上的新用户输入。它支持四种不同的策略来处理额外的上下文:拒绝、排队、中断和回滚。
- 用于长时间运行任务的异步后台作业。您可以通过轮询或 Webhook 检查完成情况。
- 用于按计划运行常见任务的 Cron 作业
LangGraph Cloud 还为协作、部署和监控代理应用程序带来了更集成的体验。它配备了 LangGraph Studio – 一个类似游乐场的空间,用于可视化代理轨迹,以帮助调试故障模式并为中断、状态编辑、恢复和时间旅行添加断点。LangGraph Studio 让您可以与内部利益相关者共享您的 LangGraph 代理,以获取反馈和快速迭代。
此外,LangGraph Cloud 简化了部署。从 GitHub 中选择一个 LangGraph 仓库,只需一键即可部署您的代理应用程序——无需基础设施专业知识。由于 LangGraph Cloud 集成在 LangSmith 中,因此您可以更深入地了解您的应用程序,并在生产环境中跟踪和监控使用情况、错误、性能和成本。
我们很高兴推出 LangGraph Cloud,并得到了 Ally Financial 等合作伙伴的支持,他们已经在 LangGraph 方面取得了长足的进步。
“随着 Ally 不断推进其对生成式 AI 的探索,我们的技术实验室对 LangChain 的新库 LangGraph 感到兴奋,LangGraph 是我们进行多参与者代理工作流程实验的核心。我们致力于深化与 LangChain 的合作伙伴关系。” - Sathish Muthukrishnan(Ally Financial 首席信息、数据和数字官)
亲自尝试
要开始使用 LangGraph,只需访问 GitHub 项目 并按照安装说明进行操作。
要访问 LangGraph Cloud,请注册 LangGraph Cloud 等待列表。您需要首先拥有一个 LangSmith 帐户(您可以免费试用)才能使用 LangGraph Cloud 功能。
我们相信我们在构建代理方面有一种独特的方法——这种方法让您可以将公司特定的工作流程置于中心位置,并为您提供交付生产环境所需的控制。我们希望随着这些工具的发布,我们能更进一步地弥合用户期望与代理能力之间的差距。
如果您有任何反馈,我们很乐意通过 hello@langchain.dev 收到您的来信!
从以下其他资源了解更多信息