Ally Financial 是美国最大的数字银行和领先的汽车贷款机构，最近与 LangChain 合作发布了第一个初始编码模块，该模块解决了 AI 开发人员在高度监管的以消费者为中心的行业中处理个人身份信息 (PII) 时面临的重大挑战。PII 屏蔽模块 - 可在此处获得 此处 - 为经常在正常业务流程中处理客户 PII 的组织提供了一个起点，包括金融服务、医疗保健和零售领域的组织，以构建保护客户数据的生成式 AI 应用程序。
发布使用 LangChain 构建的 Ally.ai
PII 屏蔽模块是在 LangChain 的支持下创建的，专为 Ally.ai 而设计，Ally.ai 是该公司专有的基于云的 AI 平台，可作为 Ally 数据与商用 LLM 之间的安全桥梁。Ally 是金融服务行业中生成式 AI 的早期采用者，该平台于 2023 年 9 月推出。Ally.ai 的第一个用例利用了该平台的功能来帮助客户服务与体验团队，他们每天与数千名客户互动。
Ally.ai 帮助 700 多名客户服务人员总结他们与 Ally 客户之间的对话。该平台连接到商业级 LLM，通过共享每个客户电话的完整记录来协助他们，然后由 LLM 进行总结。在高度监管的银行业中，PII 应在 LLM 进行总结之前被去除。
在 LangChain 软件的帮助下，Ally 的开发人员为 Ally.ai 创建了一个模块，可以屏蔽各种形式的 PII，包括姓名、电子邮件地址、帐号等等。由于 LangChain 为 Ally 团队提供了快速发布和迭代的构建块和框架，他们可以解决关键挑战，同时推动项目进行。Ally.ai 由一支由五名工程师组成的团队在短短两个月内构建而成。该平台已经对业务产生了影响，特别是客户服务人员收到了电话总结。
- Ally.ai 为每个客户电话节省了 30 秒到两分钟的时间，使工作人员能够快速完成客户电话总结。
- 超过 85% 的电话总结不需要工作人员进行额外编辑，这证明了该平台的强大功能。
- 工作人员还表示，Ally.ai 的总结帮助他们将精力集中在有意义的客户互动上，减少了记录对话和在屏幕之间切换所需的时间。
“作为一家为超过 1100 万名客户提供服务的数字银行，我们希望将合适的技术交到团队成员手中，使他们能够提高工作效率，并提供优质的服务。我们看到了生成式 AI 对我们业务的巨大潜力，我们使用 LangChain 来快速投入生产。Ally.ai 平台使我们团队能够花更多时间与客户互动，同时比以往任何时候都更有效率。” - Ally 首席信息、数据和数字官 Sathish Muthukrishnan
增强安全性和合规性 + 将 PII 过滤功能贡献给 LangChain
虽然 Ally 行动迅速，但他们非常谨慎和周到，因为他们在受监管的行业中运营。安全和客户数据隐私是他们所有举措的核心，有了 Ally.ai，Ally 团队必须确信没有 PII 数据被发送到 LLM。PII 过滤是产品的一项要求，以确保最佳安全实践。然而，实现这一点需要大量的努力，因为 PII 数据可以采取多种形式，并且在与用户的任何实时对话中，用户都有可能在没有提示的情况下共享敏感信息。
为了以符合银行治理和合规性需求的方式发布 Ally.ai 平台，Ally 团队将他们自己的 PII 过滤功能添加到 LangChain 代码中，该功能在将敏感数据发送到 LLM 之前对其进行屏蔽。结果是一个新的 PII 屏蔽模块，它可以先识别潜在的 PII，在数据发送到 LLM 之前进行屏蔽，然后在从 LLM 返回摘要或其他输出后重新填充 PII。本质上，PII 屏蔽模块与 LLM 之间进行双向通信 - 在数据共享之前和之后。
Ally 的 PII 过滤方法非常成功，Ally 团队希望通过贡献他们的代码来回馈 LangChain 社区，以便其他人也能从中受益。
Muthurkrishnan 继续说道：“LangChain 生态系统发展迅速，我们在开发 Ally.ai 平台时受益于 TypeScript 包。我们希望回馈社区，因此我们在 langchain-community 包中开源了我们的代码。我们很高兴其他金融机构或在受监管行业中运营的其他公司能够从我们创造的东西中受益。”
未来的发展方向
Ally.ai 的初步结果鼓励 Ally 团队继续在整个企业中追求近 200 个 AI 用例。虽然并非所有用例都能投入生产 - Ally 已经开始对另外两个用例进行最终评估 - 一个与营销内容和 SEO 团队合作，另一个与 Ally 的投资者关系团队合作。这两个用例都侧重于优化员工生产力和改进业务流程。例如，营销内容团队发现，启动活动所需的时间减少了 2-3 周。随着更多用例通过 Ally 广泛的治理流程进行测试和评估，Ally.ai（包括必要的隐私和安全功能）将随着公司扩展其 AI 功能而成为常数。
“我们没有止步不前，开发者社区也没有，”Muthukrishnan 说。“我们希望通过做出贡献并与 LangChain 合作，我们的行动将成为其他希望以负责任的方式利用 AI 的力量的组织的典范，这些组织能够积极地为消费者和我们的社区服务。”
有关 Ally 技术团队的更多见解，包括团队如何在 AI 方面做对了以及探索新的创新，请访问 https://ally.tech。您也可以阅读有关他们公告的更多内容 - 此处.
“我们的目标是让 LangChain 无处不在。我们设计了这个框架，无论公司规模或运营行业如何，它都能发挥作用。Ally 突破了界限，解决了一个我们看到许多公司面临的实际问题。我们很高兴 Ally 决定支持我们的使命并回馈社区，以便其他人也能从中受益，我们很高兴继续与 Ally 合作，发展 LangChain，以便它能更好地为金融机构服务。” - LangChain 首席执行官 Harrison Chase
关于 Ally Financial
Ally Financial Inc.（纽交所代码：ALLY）是一家金融服务公司，拥有美国最大的全数字银行和行业领先的汽车融资业务，其使命是“做正确的事”，成为客户和社区的坚定盟友。该公司通过全面的在线银行服务（包括存款、抵押贷款、销售点个人贷款和信用卡产品）以及证券经纪和投资咨询服务，为超过 1100 万名客户提供服务。该公司还包括强大的企业融资业务，为股权赞助商和中型企业提供资金，以及汽车融资和保险产品。有关更多信息，请访问 www.ally.com 并关注 @allyfinancial。
关于 LangChain
LangChain, Inc. 成立于 2023 年初，致力于帮助开发人员构建具有上下文感知推理功能的应用程序。该公司流行的开源框架为开发人员提供了构建块，使他们能够使用 LLM 创建可投入生产的应用程序。LangChain 的开放标准受益于社区的力量；它与尖端技术同步，因此公司也能做到。LangChain 拥有 600 多个工具集成、60 多个支持的模型，并易于采用最新的认知架构，它为公司提供了选择、灵活性和构建工具，使他们能够快速行动。LangSmith 作为一款一体化 SaaS 平台，可以为构建和监控 LangChain 和 LLM 驱动的应用程序提供全面的端到端开发工作流程。