LangChain partners with Elastic to launch the Elastic AI Assistant

LangChain 与 Elastic 合作推出 Elastic AI 助手

3 分钟阅读

Elastic 是一家领先的搜索分析公司,为全球超过 2 万家客户提供服务,使组织能够安全地利用搜索驱动的 AI,以便任何人都可以使用其所有数据实时找到所需的答案,并可大规模扩展。通过将 AI 与搜索技术集成,该公司促进了从大量结构化和非结构化数据中发现可操作的见解,满足了对实时、可扩展数据处理的需求。他们拥有基于云的搜索、安全和可观测性解决方案,这些解决方案帮助企业兑现 AI 的承诺。最近,在 LangChain 和 LangSmith 的帮助下,他们为其安全套件添加了 AI 助手。

Elastic AI 安全助手旨在成为一款高级产品,支持安全分析师的工作流程。具体来说,该产品可以帮助安全团队完成以下任务:

  • 警报摘要,解释警报触发的原因,并提供建议的行动手册来补救攻击。此功能为组织生成动态的运行手册,以便在事件期间提供有序性。
  • 工作流程建议,指导用户如何完成添加警报例外或创建自定义仪表板等任务。
  • 查询生成和转换,以支持用户更轻松地从其他 SIEM 迁移到 Elastic。现在,用户可以粘贴来自其他产品的查询,或者使用自然语言,Elastic AI 助手将使用正确的语法将其转换为 Elastic 查询。
  • 代理集成建议,指导如何在 Elastic 中以最佳方式收集数据。

以及更多。

这是一项仅限企业版的功能,自 2023 年 6 月首次推出以来,Elastic 已经看到该助手被大量采用。AI 助手已被证明可以显着缩短客户对 Elastic Security 生成的警报的 MTTR(平均响应时间),并减少编写查询和检测规则所需的时间,这归功于其根据自然语言用例制作查询的能力。

LangChain 和 LangSmith 如何支持产品开发

Elastic 在设计其应用程序时,从一开始就使其与 LLM 无关,因为他们希望最终用户能够自带模型,并且需要支持 OpenAI、Azure OpenAI 和 Bedrock(以及其他模型)。从一开始就为用户提供这种程度的控制和灵活性是一项要求。

幸运的是,创建 RAG 应用程序的大部分工具都原生自带 LangChain,并且由于 LangChain 还将应用程序逻辑与每个底层组件隔离开来,因此 Elastic 团队能够根据用户对供应商的偏好创建可互换的模型和提示,而无需太多的工程开销。作为额外的好处,LangChain 已经与 Elastic 的向量数据库进行了很好的集成,因此它非常适合这项工作。

随着团队开始向 AI 助手添加更多功能,例如在 Elastic 的新查询语言 ES|QL 中生成查询的能力,LangSmith 在帮助 Elastic 团队了解究竟发送了什么给模型、完整跟踪花费了多长时间以及在此过程中消耗了多少令牌方面发挥了关键作用。LangSmith 帮助团队更好地了解不同的模型如何在不同的任务和不同的价格点上表现良好。这种可见性使开发团队能够考虑权衡,并在所有三个支持的模型中创建尽可能一致的体验。随着团队在其应用程序上进行迭代,LangSmith 帮助突出显示了差异,并防止了回归进入生产环境。

“在 Elastic AI 助手上与 LangChain 和 LangSmith 合作,对整体开发速度和交付体验产生了重大的积极影响。如果没有 LangChain,我们不可能实现交付给客户的产品体验,如果没有 LangSmith,我们不可能以如此快的速度完成。” Elastic 安全产品管理总监 James Spiteri 说。

LangChain 和 LangSmith 还支持 Elastic 的工作流程,为企业交付安全的应用程序。考虑到他们的用户是安全专家,并且天生持怀疑态度,Elastic 团队在应用程序中构建了数据脱敏功能,以便在敏感数据发送到 LLM 之前对其进行混淆处理,并在最终产品中直接公开令牌跟踪,以便用户可以完全了解使用情况,并将他们的基于角色的访问控制与体验集成,以便管理员可以根据需要限制使用。

Elastic AI 助手接下来的发展方向是什么?

AI 助手的目标是尽可能减轻安全分析师的工作量,并让他们每天有更多的时间。虽然该产品目前支持三个模型提供商,但团队希望扩展到更多模型,以便为更广泛的受众提供服务。

AI 助手的下一个重大步骤是利用 LangChain 的代理框架,以便可以在后台完成更多工作,并让用户批准操作。超越知识辅助将把应用程序提升到一个新的水平,Elastic 团队有信心在 LangChain 和 LangSmith 的帮助下实现这一目标。

回馈社区

秉承开源精神,Elastic 团队公开了许多驱动 Elastic AI 助手的代码。您可以通过查看此处的存储库,确切了解团队如何实施其解决方案。有关使用 Elastic 进行 ML 开发的其他激动人心的教育内容,请查看Elastic Search Labs。尽情享受吧!