RealChar x LangSmith: Using Open Source tools to create an AI companion

RealChar 与 LangSmith:使用开源工具创建 AI 助手

3 分钟阅读

编者按:这篇博文是与 RealChar 合作撰写的,RealChar 是 LangSmith BETA 的早期 用户。他们行动迅速,创造了非常非常精巧,而且非常非常有趣的东西——全部使用开源工具完成。

我们内部对 AI 角色和助手也感到非常兴奋,这也是我们很高兴重点介绍 RealChar 的部分原因。正如 CharacterAI 等平台的迅速崛起所表明的那样,允许人们与不同的角色对话可能真的非常有趣。

RealChar 可能是目前最完整、最令人兴奋的 OSS AI 角色框架。除了令人印象深刻的底层技术外,它还提供了非常精致的 UI 和 UX。基本上在过去一周的大部分时间里,他们都是 GitHub 趋势仓库榜首,如果您还没有查看过,我们强烈建议您去看看。

我们(RealChar 团队)很高兴分享我们使用 LangSmith 以及与 LangChain 团队合作的经验。

如果您不了解,RealChar 是一个开源项目,旨在让您实时创建、自定义并与您的 AI 角色/助手交谈(都在一个代码库中)。我们为用户在所有常见平台(移动端、网页端、终端以及即将推出的桌面端)上提供自然流畅的 AI 对话。我们构建 RealChar 利用了生成式 AI/LLM 领域一些最佳的开源工具,包括 LangChain。

只是一个有趣的演示:询问 AI 埃隆他是否害怕在备受期待的笼斗中失败。完整版本在此

自从一周前发布 RealChar 后,它受到了社区的大量关注和使用,我们的网站也经历了巨大的流量。随着对话的积累和日志的迅速变得杂乱无章,我们发现 LangSmith 是一个完美的工具,可以用来监控和观察流量。

它还能够根据各种条件轻松筛选日志,以便我们更准确地追踪问题。例如,我们可以轻松查看与语言模型交互时出现的所有错误,这帮助我们更好地了解和维护我们的可靠性。

LangSmith 还允许我们识别重要的对话并轻松添加到数据集中。这对于我们使用 LangSmith 的评估功能来评估和安全检查后续的提示词很有帮助。

LangSmith 的 UI 也非常出色且易于使用。它在很大程度上取代了我们之前内部构建的监控工具。

所有这些功能几乎都是免费获得的,因为我们已经使用了 LangChain。一旦在 LangSmith 中设置了 API 密钥,只需要几个环境变量即可。

LANGCHAIN_TRACING_V2=true
LANGCHAIN_ENDPOINT=https://api.smith.langchain.com
LANGCHAIN_API_KEY=YOUR_LANGCHAIN_API_KEY
LANGCHAIN_PROJECT=YOUR_LANGCHAIN_PROJECT

总的来说,我们将 LangSmith 视为一个出色的工具,它在一个地方集成了分析、可观测性和评估。对于像 RealChar 这样具有大量流量的生产级应用程序来说,它非常有用。

/content/media/5101573/253656635-5de0b023-6cf3-4947-84cb-596f429d109e.mp4