一年前，人们真正使用的唯一大型语言模型是 OpenAI 的 GPT-3。快进到现在，有大量的模型可供选择 - 包括各种各样的开源模型。尤其在过去六个月中，这些开源模型的性能获得了大幅提升。随着这些模型变得越来越好，我们看到越来越多的人想要尝试它们。我们已与 Fireworks AI 合作，将这些模型带入 LangSmith playground - 完全免费（目前是这样，我们将观察成本会变得多高）。
这到底意味着什么？
具体来说，我们将 Fireworks AI 集成到了 playground 中，加入了 OpenAI、Anthropic 和 Vertex AI 的行列，成为受支持的模型提供商。请阅读下文了解更多关于 Fireworks AI 的信息，但从宏观层面来看，它们提供对大量开源模型的 API 访问。虽然 playground 中的其他模型提供商需要 API 密钥才能使用，但我们已与 Fireworks AI 合作，使任何人都可以使用此集成，无论他们是否拥有 API 密钥（注意：您需要登录 LangSmith 平台才能使其工作）。
这现在意味着尝试开源模型的提示比以往任何时候都更容易。
首先，让我们前往 LangSmith Hub。我们可以筛选 Hub 中现有的提示，找到那些旨在用于 Llama-2 的提示。注意：这是手动标记，因此可能不准确，但这是一个好的开始。
让我们选择 hwchase17/llama-rag prompt。在此页面上，我们可以单击“Try it”（尝试一下）以在 playground 中打开它。
Playground 默认设置为 OpenAI，但我们可以单击模型提供商来更改它。
从这里，我们可以选择 Fireworks 选项。
现在我们可以选择我们要使用的模型，然后插入一些输入并点击“run”（运行）！
什么是 Fireworks？
Fireworks.ai 提供了一个平台，使开发人员能够运行、微调和共享大型语言模型 (LLM)，以最佳方式解决产品问题。
Fireworks.ai 生成式 AI 平台为开发人员提供了对闪电般快速的开源模型、LLM 推理和最先进的基础模型的访问，用于微调。该平台为延迟优化和吞吐量优化设置以及成本降低（最多降低 20–120 倍）提供最先进的机器性能，以实现经济实惠的服务。
将 Fireworks.ai 模型集成到 LangChain Playground 中意味着让开发者社区可以轻松访问性能最佳的开源和微调模型。
LangChain Prompt Hub 已经可以轻松地尝试不同的提示、模型和参数，而无需任何编码。更快的推理或更快的 LLM 的可用性有助于进一步提高构建 LLM 工作流程的效率。
LLM 工作流程的很大一部分需要测试和优化提示，这是一个高度迭代且耗时的过程。这种集成使 LangChain Prompt Hub 用户能够更高效地测试和优化最先进的开源和微调 LLM（如 Llama 2 70B）的提示。
在 Playground 中尝试 Fireworks
- 登录用户可以在 playground 中免费试用 Fireworks，无需 API 密钥！
- 如果您未登录或没有帐户，但想试用 Fireworks，您可以直接从 Fireworks 获取一个。
以下是设置 Fireworks.ai 帐户的说明。
- 步骤 1：访问 app.fireworks.ai。
- 步骤 2：单击顶部导航栏中的“Sign In”（登录）按钮。
- 步骤 3：单击“Continue with Google”（使用 Google 继续）并使用您的 Google 帐户进行身份验证。首次登录时，将为您配置一个新的 Fireworks 开发者帐户。
- 步骤 4：接下来，我们将配置一个新的 API 密钥。单击左侧导航栏中的“API Keys”（API 密钥），然后单击“New API Key”（新建 API 密钥）并为您的新 API 密钥命名。
- 步骤 5：现在，像 Llama 2 13B Chat 这样的开源模型已准备好在 LangChain Playground 中使用。
- 步骤 6：您可以在 playground 中的“Secrets & API Keys”（密钥和 API 密钥）部分输入您的 API 密钥。