Announcing LangSmith is now a transactable offering in the Azure Marketplace

宣布 LangSmith 现已成为 Azure 市场上的可交易产品

阅读时间:4 分钟

今天,我们很高兴地宣布企业可以购买 Azure 市场中的 LangSmith 作为 Azure Kubernetes 应用程序。 LangSmith 是一个统一的 DevOps 平台,用于开发、协作、测试和监控 LLM 应用程序,无论您是否使用 LangChain。LangSmith 迅速成为企业将 LLM 应用程序从原型阶段过渡到生产阶段的首选平台,Moody's、Elastic、乐天和 BCG 等 LangSmith 客户依靠该平台构建可扩展的高质量 genAI 应用程序。

“作为创新和技术的领导者,穆迪优先考虑对其基于生成式 AI 的工具进行全面测试和评估。为了创建对企业和客户可靠的应用程序,LangSmith 帮助在整个开发和测试阶段保持工程严谨性,使我们能够在发布 LLM 支持的应用程序之前对其进行压力测试。这使我们充满信心,因为我们继续在我们的使命中利用生成式 AI,即破译风险并释放机遇。” - 穆迪机器学习总监韩忠李。

我们很高兴与微软合作,通过 Azure 市场为我们的共同客户提供更便捷的采购选项,并且数据安全策略满足了即使是最严格的信息安全和合规团队的要求。

要了解有关 LangSmith 和 Azure 市场带来的益处的更多信息,请继续阅读或 联系我们

LangSmith 的优势

通过 LangSmith 的调试、测试、监控和提示管理模块,企业客户可以从以下方面受益

  • 提高对用户与其生产 LLM 应用程序交互的可视性:LangSmith 为工程团队提供了有关其最终用户向 LLM 应用程序提出的问题以及应用程序在生产环境中如何响应的跟踪级详细信息。LangSmith 可以轻松地使用最终用户反馈来增强跟踪,从而提供进行补救和持续改进所需的可见性。LangSmith 为团队提供了以下方面的安心
    • 性能和质量,
    • 对话的可审计性,以及
    • 当交互未达到预期时,可解释性。
  • 更全面的测试覆盖范围,以提高应用程序质量:LLM 应用程序功能强大,但具有独特特征。不确定性以及不可预测的自然语言输入导致系统可能出现无数种故障方式。LangSmith 重塑了传统的软件工程测试,使其更适合与 LLM 一起使用。借助 LangSmith 的测试与评估模块,开发人员可以在将应用程序交付给最终用户之前对应用程序的性能充满信心。LangSmith 帮助开发人员发现回归,并确定对应用程序逻辑的更改是否在正确方向上推动关键指标。
  • 提高应用程序开发速度和与主题专家之间的协作:LangSmith 帮助开发人员调试其应用程序跟踪,以查明代理或链条偏离轨道的位置。LangSmith 还通过提示构建和标记反馈来提高开发人员与主题专家(例如产品经理或质量保证团队)之间的协作,这些反馈通常需要更多最终用户或行业知识。
  • 更清晰的 ROI 分析,以便做出更好的业务权衡。在构建 LLM 应用程序时,您几乎总是会在质量、成本和延迟之间进行权衡。LangSmith 帮助团队运行实验以检查与这三者相关的指标,以便开发人员可以用数据支持他们的选择,帮助他们优先考虑重要事项并控制支出。

通过 Azure 市场采购 LangSmith 的优势

当您通过 Azure 市场购买 LangSmith 时,您将使数据完全保留在 Azure VPC 中,并享受轻松的部署和更流畅的采购流程。

  • LangSmith 将在您的 Azure VPC 中运行,因此不会与第三方共享任何数据。作为监控平台,LangSmith 记录了有关最终用户向 LLM 应用程序提出的问题以及应用程序如何响应的大量有用信息。当您将 LangSmith 作为 Azure Kubernetes 应用程序购买时,我们将部署整个平台,因此不会有数据离开您的网络,您可以完全控制数据管理。此外,信息安全团队会很高兴地了解微软团队已经审查并认证了 LangSmith 产品,并将持续对我们的镜像运行安全漏洞扫描,以保护客户数据和环境安全。
  • 将 LangSmith 部署到 Azure Kubernetes 服务 (AKS) 从未如此简单。在交易后,我们将为您提供试用版许可证,然后提供生产版许可证,以将 LangSmith 及其依赖项部署到您的 AKS 或 OpenShift 集群。借助与 Azure 资源管理器 (ARM) API 的深度集成,通过 Azure 市场获得的 LangSmith 将易于设置和集成。您将在每六周收到一个次要版本,并从我们的基础设施团队获得一对一支持,以帮助您进行部署、更新和持续可扩展性维护。
  • 您可以从您的 Microsoft Azure 消费承诺 (MACC) 中提取积分。许多 Azure 客户依靠完整的 Microsoft 产品套件来解决其基础设施和开发需求。LangSmith 已满足 IP 联合销售的要求,这意味着您不仅可以使用您的 Azure 积分购买 LangSmith,而且您在 LangSmith 上花费的每一美元都将抵消您的 MACC,使团队更容易获得预算批准。

进一步推动 LangChain 与微软的合作

我们继续投资于 LangChain 与 Azure AI 服务的技术合作,深度整合了 Azure OpenAI、Azure AI 搜索、Microsoft Fabric 等。扩展与微软的联合产品合作,针对 LangChain 的商业产品 LangSmith 进行联合上市推广,这是一个自然而然的选择,对我们的客户都有利。

如果您正在寻找一个支持 LLM 应用程序生命周期所有阶段的平台,请考虑将部署在您的 Azure 环境中的 LangSmith。直接在 Azure 市场 中联系我们,或 联系销售人员,与我们的专家开始对话。我们很高兴与您合作。


其他资源