美国最大的纯数字银行和领先的汽车贷款机构 Ally Financial 最近与 LangChain 合作，发布了首个初始编码模块，该模块解决了人工智能开发人员在高度监管、以消费者为中心的行业中处理个人身份信息 (PII) 时面临的重大挑战。PII 屏蔽模块 - 可在此处 获取 - 为经常在正常业务过程中处理客户 PII 的组织（包括金融服务、医疗保健和零售行业的组织）构建生成式人工智能应用程序（同时保护客户数据）提供了起点。
发布 Ally.ai，基于 LangChain 构建
PII 屏蔽模块是在 LangChain 的支持下构建的，专为 Ally.ai 而创建。Ally.ai 是该公司的专有云端人工智能平台，将作为 Ally 数据和商业上可用的 LLM 之间的安全桥梁。Ally 是金融服务行业中生成式人工智能的早期采用者，于 2023 年 9 月推出了该平台。该公司与 Ally.ai 的首个用例是利用该平台的强大功能来协助客户关怀与体验团队，因为他们每天与数千名客户互动。
Ally.ai 协助 700 多名客户关怀专员总结他们与 Ally 客户之间的对话。该平台连接到商业级 LLM，通过共享每次客户通话的完整记录来协助他们，然后由 LLM 总结。在高度监管的银行业，PII 应在 LLM 进行总结之前被剥离。
在 LangChain 软件的帮助下，Ally 的开发人员为 Ally.ai 创建了一个模块，该模块可以屏蔽各种形式的 PII，包括姓名、电子邮件地址、帐号等等。由于 LangChain 为 Ally 团队提供了快速交付和迭代的构建模块和框架，因此他们可以在推进项目的同时解决关键挑战。Ally.ai 由一个由五名工程师组成的团队在短短两个月内建成。该平台已经对业务产生了影响，特别是接收呼叫摘要的客户关怀专员
- Ally.ai 每次客户通话节省了 30 秒到 2 分钟的时间，使专员能够快速完成客户通话摘要
- 高达 85% 的呼叫摘要不需要专员进行额外编辑，这证明了该平台的强大功能
- 专员还表示，Ally.ai 摘要帮助他们将精力集中在有意义的客户互动上，并减少了记录对话和在屏幕之间切换所需的时间。
“作为一家为超过 1100 万客户提供服务的数字银行，我们希望将合适的技术交到我们的队友手中，以便他们能够提高工作效率并提供卓越的服务。我们在生成式人工智能的力量中看到了巨大的商机，我们使用 LangChain 来快速投入生产。Ally.ai 平台使我们的团队能够花更多时间与客户在一起，同时比以往任何时候都更有效率。” – Ally 首席信息、数据和数字官 Sathish Muthukrishnan 表示
增强安全性和合规性 + 为 LangChain 贡献 PII 过滤功能
虽然 Ally 行动迅速，但他们在行动时非常谨慎和周到，因为他们在受监管的行业中运营。安全性和客户数据隐私是他们所有计划的核心，对于 Ally.ai，Ally 团队必须确信没有 PII 数据被发送到 LLM。PII 过滤是产品的一项要求，以确保最佳安全实践。然而，实现这一点需要大量工作，因为 PII 数据可能以多种形式出现，并且在与用户的任何实时对话期间，都存在用户可能未经提示共享敏感信息的风险。
为了以符合银行治理和合规需求的方式发布 Ally.ai 平台，Ally 团队在 LangChain 代码中添加了自己的 PII 过滤功能，该功能在敏感数据发送到 LLM 之前对其进行屏蔽。结果是一个新的 PII 屏蔽模块，该模块可以首先识别潜在的 PII，在将其发送到 LLM 之前对其进行屏蔽，然后在摘要或其他输出从 LLM 返回后重新水化 PII。本质上，PII 屏蔽模块与 LLM 进行双向通信——在数据共享之前和之后。
Ally 的 PII 过滤方法非常成功，Ally 团队希望通过贡献他们的代码回馈 LangChain 社区，以便其他人可以从中受益。
Muthurkrishnan 继续说道：“LangChain 生态系统发展迅速，我们在开发 Ally.ai 平台时受益于 typescript 包。我们希望回馈社区，因此我们在 langchain-community 包中开源了我们的代码。我们很高兴其他金融机构或其他在受监管行业运营的公司可以从我们创建的成果中受益。”
未来的道路
Ally.ai 的初步结果鼓励 Ally 团队继续在整个企业中推进近 200 个 AI 用例。虽然并非所有用例都能投入生产——Ally 已经开始对另外两个用例进行最终评估——一个用于营销内容和 SEO 团队，第二个用于 Ally 的投资者关系团队。这两个用例都倾向于优化员工生产力和改进业务流程。例如，营销内容团队发现启动活动所需的时间缩短了 2-3 周。随着更多用例通过 Ally 广泛的治理流程进行测试和评估，Ally.ai 的使用（具有必要的隐私和安全功能）将成为一个常数，因为该公司正在扩展其人工智能能力。
“我们不会停滞不前，开发者社区也不会停滞不前，”Muthukrishnan 说。“我们希望通过做出这一贡献并与 LangChain 合作，我们的行动将成为其他希望以负责任的方式利用人工智能的力量，从而积极地为消费者和我们的社区服务的组织的榜样。”
有关 Ally 技术团队的更多见解，包括该团队如何在人工智能方面做正确的事情以及探索新的创新，请访问 https://ally.tech。您也可以在此处阅读有关他们公告的更多信息 – 此处。
“我们的目标是让 LangChain 无处不在。我们设计的框架旨在无论公司规模或所处行业如何都非常有用。Ally 突破了界限，解决了我们看到许多公司遇到的实际问题。我们感谢 Ally 决定支持我们的使命并做出贡献，以便其他人可以从中受益，我们很高兴继续与 Ally 合作，以进一步发展 LangChain，从而更好地为金融机构服务。” – LangChain 首席执行官 Harrison Chase 表示
关于 Ally Financial
Ally Financial Inc.（纽约证券交易所代码：ALLY）是一家金融服务公司，拥有全美最大的全数字银行和行业领先的汽车金融业务，其使命是“做正确的事”，并成为客户和社区不懈的支持者。该公司通过全方位的在线银行服务（包括存款、抵押贷款、销售点个人贷款和信用卡产品）以及证券经纪和投资咨询服务为超过 1100 万客户提供服务。该公司还包括强大的企业融资业务，为股权发起人和中型市场公司以及汽车融资和保险产品提供资本。有关更多信息，请访问 www.ally.com 并关注 @allyfinancial。
关于 LangChain
LangChain, Inc. 成立于 2023 年初，旨在帮助开发人员构建上下文感知的推理应用程序。该公司流行的开源框架为开发人员提供了构建模块，以使用 LLM 创建可用于生产的应用程序。LangChain 的开放标准受益于社区的力量；它与最前沿的技术保持同步，因此公司也可以做到。LangChain 拥有 600 多个工具集成、60 多个支持的模型以及最新认知架构的轻松采用，为公司提供了选择、灵活性和快速构建套件。LangSmith 作为一个一体化的 SaaS 平台进行补充，该平台为构建和监控 LangChain 和 LLM 驱动的应用程序实现了完整的端到端开发工作流程。