今天，我们激动地宣布，企业现在可以在 Azure Marketplace 中的 LangSmith 中购买 LangSmith，作为 Azure Kubernetes 应用程序。 LangSmith 是一个统一的 DevOps 平台，用于开发、协作、测试和监控 LLM 应用程序，无论您是否使用 LangChain 构建。LangSmith 已迅速成为帮助企业将其 LLM 应用程序从原型推向生产的首选平台，并且 Moody’s、Elastic、Rakuten 和 BCG 等 LangSmith 客户依赖该平台构建可扩展的高质量 genAI 应用程序。
“作为创新和技术的领导者，穆迪优先考虑对我们基于生成式 AI 的工具进行全面的测试和评估。为了创建对企业和我们的客户可靠的应用程序，LangSmith 帮助在整个开发和测试阶段保持工程严谨性，使我们能够在发布 LLM 驱动的应用程序之前对其进行压力测试。这让我们在继续利用生成式 AI 来解码风险和释放机遇的任务中充满信心。” – Moody’s 机器学习总监 Han-chung Lee。
我们很高兴通过 Azure Marketplace 为我们的共同客户提供更便捷的采购选项，从而深化我们与 Microsoft 的合作，其数据安全态势甚至可以满足最苛刻的信息安全和合规团队的要求。
要了解有关 LangSmith 以及 Azure Marketplace 带来的好处的更多信息，请继续阅读或 立即联系我们。
LangSmith 的优势
通过 LangSmith 的调试、测试、监控和提示管理模块，企业客户可以受益于
- 提高用户与其生产 LLM 应用程序交互的可见性：LangSmith 为工程团队提供了关于最终用户向其 LLM 应用程序提出的问题以及应用程序在生产中如何响应的跟踪级别详细信息。通过易于使用最终用户反馈增强的跟踪，LangSmith 提供了补救和持续改进所需的可观察性。LangSmith 让团队对以下方面感到安心：
- 性能和质量，
- 对话的可审计性，以及
- 当交互未达到预期时的可解释性。
- 更全面的测试覆盖率以提高应用程序质量：LLM 应用程序功能强大，但具有独特的特性。非确定性与不可预测的自然语言输入相结合，导致系统可能出现无数种故障方式。LangSmith 重新构想了传统的软件工程测试，使其更适合与 LLM 一起工作。借助 LangSmith 的测试和评估模块，开发人员可以在将应用程序交付给最终用户之前，对其应用程序的性能建立信心。LangSmith 帮助开发人员发现回归问题，并确定应用程序逻辑的更改是否正在朝着正确的方向移动关键指标。
- 提高应用程序开发速度和与主题 matter 专家的协作：LangSmith 帮助开发人员调试其应用程序跟踪，以查明代理或链条在何处偏离轨道。LangSmith 还改进了开发人员与主题 matter 专家（例如产品经理或质量保证团队）在提示构建和标记反馈方面的协作，这些反馈通常需要更多的最终用户或行业知识。
- 更清晰的 ROI 分析，以便做出更好的业务权衡。在构建 LLM 应用程序时，您几乎总是在质量、成本和延迟之间进行权衡。LangSmith 帮助团队运行实验来检查与这三者相关的指标，以便开发人员可以使用数据来支持他们的选择，帮助他们优先考虑重要事项并控制支出。
通过 Azure Marketplace 采购 LangSmith 的优势
当您通过 Azure Marketplace 购买 LangSmith 时，您将使数据完全包含在您的 Azure VPC 中，获得轻松部署，并体验更顺畅的采购流程。
- LangSmith 将在您的 Azure VPC 中运行，因此不会与第三方共享任何数据。作为监控平台，LangSmith 记录了大量关于最终用户对其 LLM 应用程序提出的问题以及您的应用程序如何响应的有用信息。当您购买 LangSmith 作为 Azure Kubernetes 应用程序时，我们将把整个平台部署在您的环境中，因此数据不会离开您的网络，并且您可以完全控制数据管理。此外，信息安全团队会很高兴 Microsoft 团队已经审查并认证了 LangSmith 产品，并将持续对我们的映像运行安全漏洞扫描，以确保客户的数据和环境安全。
- 将 LangSmith 部署到 Azure Kubernetes Service (AKS) 从未如此简单。在交易后，我们将为您提供试用许可证，然后是生产许可证，以便将 LangSmith 及其依赖项部署到您的 AKS 或 OpenShift 集群。通过与 Azure Resource Manager (ARM) API 的深度集成，通过 Azure Marketplace 部署 LangSmith 将非常简单易于设置和集成。您将每六周收到一次小版本更新，并获得我们基础设施团队的周到支持，以帮助您进行部署、更新和持续的可扩展性维护。
- 您可以使用 Microsoft Azure 消费承诺 (MACC) 中的额度。许多 Azure 客户依赖完整的 Microsoft 产品套件来解决其基础设施和开发需求。LangSmith 已满足 IP 联合销售的要求，这意味着您不仅可以使用您的 Azure 额度来购买 LangSmith，而且您在 LangSmith 上花费的每一美元都将计入您的 MACC，从而使团队的预算审批过程更加容易。
进一步加强 LangChain 与 Microsoft 的合作
我们将继续投资 LangChain 与 Azure AI 服务的技术合作，并与 Azure OpenAI、Azure AI Search、Microsoft Fabric 等进行深度集成。扩展我们的产品合作，为 LangChain 的商业产品 LangSmith 共同努力推向市场，这是一个自然的契合点，对我们的客户都有利。
如果您正在寻找一个支持 LLM 应用程序生命周期所有阶段的平台，请考虑在您的 Azure 环境中部署 LangSmith。直接在 Azure Marketplace 中联系或 联系销售人员，与我们的专家之一开始对话。我们很高兴与您合作。
附加资源