LangChain partners with Elastic to launch the Elastic AI Assistant

LangChain 与 Elastic 合作推出 Elastic AI 助手

阅读时间:3 分钟

Elastic 是一家领先的搜索分析公司,服务全球 20,000 多家客户,使组织能够安全地利用搜索驱动的 AI,以便任何人都可以实时使用其所有数据大规模找到他们需要的答案。通过将 AI 与搜索技术集成,该公司促进从大量结构化和非结构化数据中发现可操作的见解,以满足对实时、可扩展的数据处理的需求。他们拥有用于搜索、安全和可观察性的云解决方案,这些解决方案有助于企业兑现 AI 的承诺,最近,在 LangChain 和 LangSmith 的帮助下,他们在其安全套件中添加了 AI 助手。

面向安全的 Elastic AI 助手旨在成为支持安全分析师工作流程的高级产品。具体来说,该产品可以帮助安全团队执行以下任务:

  • 警报摘要,以解释触发警报的原因以及缓解攻击的推荐剧本。此功能为组织生成动态运行手册,以便在事件期间提供有序性。
  • 工作流建议,指导用户如何完成任务,例如添加警报异常或创建自定义仪表板。
  • 查询生成和转换,以支持用户更轻松地从其他 SIEM 迁移到 Elastic。现在,用户可以粘贴来自其他产品的查询或使用自然语言,而 Elastic AI 助手将使用正确的语法将其转换为 Elastic 查询。
  • 代理集成建议,指导如何以最佳方式在 Elastic 中收集数据。

以及更多。

这是一项仅供企业使用的功能,自 2023 年 6 月首次推出以来,Elastic 已经看到了 Assistant 的显著采用。AI 助手已被证明可以显着缩短客户对 Elastic Security 生成的警报的 MTTR(平均响应时间),并减少编写查询和检测规则所需的时间,这得益于其根据自然语言用例创建查询的能力。

LangChain 和 LangSmith 如何支持产品开发

Elastic 从一开始就设计了他们的应用程序,使其与 LLM 无关,因为他们希望最终用户能够自带模型,并且需要支持 OpenAI、Azure OpenAI 和 Bedrock(以及其他模型)。从一开始就赋予用户这种级别的控制和灵活性是一个要求。

幸运的是,LangChain 原生提供用于创建 RAG 应用程序的大部分工具,而且由于 LangChain 还将应用程序逻辑从每个底层组件中抽象出来,因此 Elastic 团队能够根据用户的供应商偏好创建可互换的模型和提示,而无需进行大量的工程开销。作为奖励,LangChain 已经与 Elastic 的向量数据库有很好的集成,因此它非常适合这项工作。

随着团队开始向 AI 助手添加额外的功能,例如在 Elastic 的新查询语言 ES|QL 中生成查询的能力,LangSmith 在帮助 Elastic 团队了解到底发送了什么内容给模型、整个跟踪花费了多长时间以及在此过程中消耗了多少个令牌方面至关重要。LangSmith 帮助团队更好地了解不同的模型如何在不同的任务和不同的价格点上表现出色。这种可见性使开发团队能够权衡利弊,并在所有支持的三种模型中创建尽可能一致的体验。随着团队对其应用程序进行迭代,LangSmith 帮助突出差异并阻止回归进入生产环境。

“与 LangChain 和 LangSmith 在 Elastic AI 助手上的合作对开发和发布体验的整体速度和质量产生了重大的积极影响。如果没有 LangChain,我们就无法实现提供给客户的产品体验,如果没有 LangSmith,我们就无法以同样的速度实现。”Elastic 安全产品管理总监 James Spiteri 说。

LangChain 和 LangSmith 还支持 Elastic 的工作流程,以便向企业提供安全的应用程序。Elastic 团队考虑到他们的用户是安全专家,并且天生具有怀疑的态度,因此在应用程序中构建了数据屏蔽功能,以在将敏感数据发送到 LLM *之前*对其进行混淆,在最终产品中直接公开令牌跟踪,以便用户可以完全了解使用情况,并将他们的基于角色的访问控制与体验集成在一起,以便管理员可以根据需要限制使用情况。

Elastic AI 助手接下来会做什么?

AI 助手的目标是尽可能减轻安全分析师的工作负担,让他们有更多的时间。虽然该产品目前支持三个模型提供商,但团队希望扩展到更多模型,以服务更广泛的受众。

AI 助手的下一个重大步骤是利用 LangChain 的代理框架,以便可以在后台完成更多工作,并让用户批准操作。超越知识辅助将使应用程序提升到一个新的水平,而 Elastic 团队相信,在 LangChain 和 LangSmith 的帮助下,他们能够实现这一目标。

回馈社区

本着开源的精神,Elastic 团队已经发布了大量为 Elastic AI 助手提供支持的代码。您可以通过查看存储库 此处 了解团队如何实现他们的解决方案。有关使用 Elastic 进行 ML 开发的其他激动人心的教育内容,请查看 Elastic Search Labs。享受吧!