跳到主要内容
Open on GitHub

Remembrall

本页面介绍如何在 LangChain 中使用 Remembrall 生态系统。

什么是 Remembrall?

Remembrall 为您的语言模型提供长期记忆、检索增强生成功能,并通过少量代码实现完整的可观测性。

Screenshot of the Remembrall dashboard showing request statistics and model interactions.

它作为您的 OpenAI 调用之上的轻量级代理,并在运行时简单地用已收集的相关事实来增强聊天调用的上下文。

设置

要开始使用,请在 Remembrall 平台使用 Github 登录,并从设置页面复制您的 API 密钥

您使用修改后的 openai_api_base(见下文)和 Remembrall API 密钥发送的任何请求都将自动在 Remembrall 控制面板中进行跟踪。您无需与我们的平台共享您的 OpenAI 密钥,此信息也绝不会由 Remembrall 系统存储。

为此,我们需要安装以下依赖项

pip install -U langchain-openai

启用长期记忆

除了通过 x-gp-api-key 设置 openai_api_base 和 Remembrall API 密钥外,您还应指定一个 UID 来维护记忆。这通常是一个唯一的用户标识符(如电子邮件)。

from langchain_openai import ChatOpenAI
chat_model = ChatOpenAI(openai_api_base="https://remembrall.dev/api/openai/v1",
model_kwargs={
"headers":{
"x-gp-api-key": "remembrall-api-key-here",
"x-gp-remember": "user@email.com",
}
})

chat_model.predict("My favorite color is blue.")
import time; time.sleep(5) # wait for system to save fact via auto save
print(chat_model.predict("What is my favorite color?"))
API 参考:ChatOpenAI

启用检索增强生成

首先,在 Remembrall 控制面板中创建文档上下文。粘贴文档文本或以 PDF 格式上传文档以进行处理。保存文档上下文 ID 并按如下所示插入。

from langchain_openai import ChatOpenAI
chat_model = ChatOpenAI(openai_api_base="https://remembrall.dev/api/openai/v1",
model_kwargs={
"headers":{
"x-gp-api-key": "remembrall-api-key-here",
"x-gp-context": "document-context-id-goes-here",
}
})

print(chat_model.predict("This is a question that can be answered with my document."))
API 参考:ChatOpenAI