Infor 是一家领先的企业软件公司，提供基于云的多租户解决方案，专为航空航天与国防、汽车、分销、时尚、食品与饮料、医疗保健和工业制造等特定行业量身定制。他们的解决方案以云套件的形式提供给客户，云套件是一套全面的集成软件应用程序，以软件即服务 (SaaS) 的形式跨多个 AWS 区域交付。这些套件通过利用云基础设施，帮助组织简化运营、提高生产力并降低 IT 成本。
Infor OS (操作系统) 是一个基于云的平台，为所有 Infor 云套件应用程序和服务提供支持，提供统一的云体验，从而增强用户、开发人员和企业的功能性、安全性和系统互操作性。随着生成式 AI 的兴起，Infor 看到通过 Infor OS 平台将 LLM 集成到其所有云套件中，从而使其产品面向未来的机会。
为了做到这一点，Infor 将其聊天助手 Coleman DA (数字助理) 从 AWS Lex 迁移到一个更灵活、由 LLM 驱动的平台。新的 GenAI 功能使该平台能够处理复杂的查询、生成动态内容、提供智能自动化，并与生态系统中的 ML 模型、API 和云套件应用程序无缝集成。
从 LangChain 到 LangGraph 构建可扩展的 AI 平台
为了实现其生成式 AI 愿景，Infor 需要一个可扩展且模块化的解决方案。借助 LangChain 和 LangGraph，Infor 工程团队能够快速在 Infor OS 平台上实现一个新的 GenAI 组件，以便为其各种云套件和业务应用程序提供对 LLM 的访问。这帮助他们利用丰富的行业知识和业务案例，以满足客户对创新业务解决方案的期望。
Infor 生成式 AI 团队在 AWS Bedrock 上构建了一个平台，包含三个关键组件
- GenAI 嵌入式体验 – Infor 应用程序可以通过其 API 网关安全地访问 LLM，从而可以发送使用领域工程提示进行文本生成、摘要和翻译的单次请求。这有助于嵌入生成式 AI 功能并简化手动流程。
- GenAI 知识中心 – Infor 使用了检索增强生成 (RAG) 架构，并以 AWS OpenSearch 作为向量数据库来增强文档检索。这使他们能够摄取所有产品文档和支持事件单，以改进客户支持。此外，客户可以将他们的文档（例如内部手册、政策和流程）上传到他们的私有向量存储中，以便通过对话式 AI 助手与文档进行交互。
- GenAI 助手 – Infor 将其旧版 AWS 聊天机器人升级为多代理 AI 助手，该助手提供更智能、上下文感知的交互。它使用 Infor OS API 网关从云套件应用程序中获取实时数据，确保 LLM 在推理期间具有最新的上下文，同时执行安全权限和数据治理。
LangGraph 对于 Infor 的多代理工作流程至关重要，它为管理复杂交互提供了一种灵活且结构化的方法。其强大的内存管理功能帮助 Infor 的 AI 代理在多次交换中保留和利用上下文信息，从而提高在扩展工作流程中的推理能力。此外，LangGraph 的状态持久性使代理能够有效地维护和检索中间状态，防止冗余处理并确保决策的连续性。
其处理循环交互的能力使代理能够迭代地改进其响应、动态协作并在多步骤流程中解决歧义。这些功能使 Infor 能够构建复杂的 AI 代理，这些代理可以有效地推理复杂的流程、自动化决策并以更高的效率和准确性增强用户交互。
使用 LangSmith 加强 LLM 可观测性和合规性
作为 SaaS 提供商，Infor 依赖于强大的可观测性和跟踪来确保可靠性、性能以及一致的高质量用户体验。由于 Infor 为位于不同地理位置和受监管行业的客户提供服务，因此其由 LLM 驱动的平台需要强大的可观测性和治理。团队对任何模型的推理管道的可视性的主要需求包括
- 推理性能：跟踪延迟、响应时间和令牌使用情况，以优化吞吐量和成本效率。
- 模型行为和质量：检测幻觉、减轻偏差并跟踪输出一致性，以提高准确性。
- 数据和模型完整性：识别潜在的攻击、数据漂移和意外响应，以确保安全。
- 合规性和安全性：提供审计跟踪并保护敏感数据，以满足监管要求。
- 透明度和问责制：确保 AI 决策的可解释性，以增强信任和负责任的 AI 部署。
LangSmith 的追踪功能只需极少的集成工作，即可使 Infor 工程师能够在 GenAI 计划的所有阶段监控交互、调试性能并确保合规性。此外，借助 LLM 排行榜的热插拔特性，Infor 团队可以将 LangSmith 与 AWS Bedrock 结合使用，从而比较不同的模型和提示，以确定平台必须支持的各种用例的最有效组合。因此，他们不仅可以在 LangSmith 中快速识别和解决问题，还可以改进他们的提示工程，以确保高质量、安全可靠的 AI 生成输出。
生成式 AI 的影响和未来展望
Infor 的生成式 AI 计划是整个组织的一项关键工作，它推动公司保持其创新优势，增强客户对其企业解决方案的信心。通过在其云套件中集成由 LLM 驱动的功能，Infor 简化了报告生成、自动化内容创建并改进了知识检索。用户现在拥有更好的体验，并且可以通过新的助手使用自然语言完成他们的任务。
展望未来，Infor 致力于帮助客户利用 AI 来增强他们的业务，并根据他们的用例定制 AI 代理。他们还计划将更高级的多代理交互整合到他们的 AI 助手中，以提高上下文感知能力并更好地管理复杂的工作流程。通过利用 LangGraph 和 LangSmith，Infor 不仅仅是在采用生成式 AI，而是在重新定义企业如何与 AI 驱动的自动化进行交互并从中受益。