乐天集团以运营日本最大的在线购物中心之一而闻名。该公司在电子商务、旅游、数字内容、金融科技、通信等领域拥有 70 多项业务。
采用新技术以突破可能性的界限是该公司的 DNA,乐天集团已投资于交付人工智能应用程序,以便通过统一的产品套件更好地为最终用户、客户和员工提供服务。
Rakuten AI for Business 是一个全面的 AI 平台,支持商业客户进行重要的业务运营,包括市场分析和客户支持。该平台还使客户能够提高各种活动的效率,例如销售、营销和 IT 支持。
LangChain 和 LangSmith 是团队用来更快、更可靠地构建这些解决方案的关键技术。
Rakuten AI:赋能企业
乐天大力投资,以使其生态系统为会员和商业客户提供卓越的体验。当客户加入他们的业务时,他们会得到专门的入职顾问的支持,一旦上线,他们会继续获得他们的帮助。乐天的人工智能团队坚信使用人工智能来实现赋能,他们看到了一个机会,可以通过使用 LangChain 和 LangSmith 构建的新的 LLM 驱动的产品来增强他们为客户提供的帮助。具体来说,他们的客户可以受益于:
- Rakuten AI Analyst 充当研究助理,提供有价值的市场情报。这有助于客户获得相关数据和图表支持的业务见解。
- Rakuten AI Agent 支持客户获得更快、自助式的客户支持,以解决他们关于在市场上 listing 和交易的问题。
- Rakuten AI Librarian 总结客户的所有文档,以便实时回答客户的最终客户和潜在客户的问题。
Rakuten AI:赋能乐天员工
乐天最近利用 LangChain 的 OpenGPTs package 提供员工赋能体验,团队可以在内部文档上构建自己的聊天机器人,以帮助知识管理和员工赋能。仅用了三名工程师一周的时间就启动并运行了初始平台。
乐天团队对 LangChain OpenGPTs 感到兴奋,因为它为他们提供了在设计认知架构和用户体验方面的最大灵活性和控制权。此外,他们不希望将体验限制在仅限于部分员工,并计划将该产品推广到 32,000 名员工,在这个规模下,数据科学和机器学习团队必须保持多种选择,并能够控制成本/性能权衡。LangChain 的框架使得自定义和抽象化供应商锁定的能力成为可能。
为什么选择 LangChain 和 LangSmith
乐天是 LangChain 的早期采用者,他们最早于 2023 年 1 月开始使用该框架进行构建。LangChain 在为使用 LLM 构建提供常见的、成功的交互模式方面很有帮助,许多现成的 chain 和 agent 架构使乐天能够快速迭代。
随着团队认真对待扩大 LangChain 的使用范围,并允许更多用户与应用程序交互,他们开始关注 LangSmith,以加强他们的工作,并提供对正在发生的事情以及原因的可视性。
乐天商业人工智能总经理 Yusuke Kaji 表示:“LangSmith 使我们能够科学地完成工作。在一家大型公司,通常多个团队独立开发他们的想法。有些团队找到了好的方法,而另一些团队则没有。通过使用 LangSmith Hub,我们可以分发最佳提示并促进团队之间的协作。通过使用 LangSmith Testing 和 Eval 以及我们的自定义评估指标,我们可以对多种方法(模型、认知架构等)进行实验,并衡量结果。通过结合 LangSmith 的优势并站在庞大的开源社区的肩膀上,我们能够更快地确定在企业环境中使用 LLM 的正确方法。”
LangSmith 还为乐天提供了他们需要的企业级保障。数据保留在乐天的环境内,通过 LangSmith,乐天可以将开发工作流程与生产工作流程的访问权限分开,从而保持乐天在处理用户数据时要求的高标准。
未来的道路
乐天从两个雄心勃勃的项目开始,影响了他们的电子商务市场和员工群体,但这对于乐天来说是司空见惯的,他们的使命是通过创新和创业精神来赋能人民和社会。乐天计划在其客户群中分发 Rakuten AI for Business,特别关注商家、酒店、零售商店和当地经济,目标是将生产力提高 20%。该团队将继续为其 70 个业务套件设计和构建大规模人工智能应用程序的技术架构,LangChain 和 LangSmith 将使他们能够比其他方式更快、更安全地实现其目标。