Remembrall
本页面介绍如何在 LangChain 中使用 Remembrall 生态系统。
什么是 Remembrall?
Remembrall 为您的语言模型提供长期记忆、检索增强生成功能,并通过少量代码实现完整的可观测性。
它作为您的 OpenAI 调用之上的轻量级代理,并在运行时简单地用已收集的相关事实来增强聊天调用的上下文。
设置
要开始使用,请在 Remembrall 平台使用 Github 登录,并从设置页面复制您的 API 密钥。
您使用修改后的 openai_api_base
(见下文)和 Remembrall API 密钥发送的任何请求都将自动在 Remembrall 控制面板中进行跟踪。您无需与我们的平台共享您的 OpenAI 密钥,此信息也绝不会由 Remembrall 系统存储。
为此,我们需要安装以下依赖项
pip install -U langchain-openai
启用长期记忆
除了通过 x-gp-api-key
设置 openai_api_base
和 Remembrall API 密钥外,您还应指定一个 UID 来维护记忆。这通常是一个唯一的用户标识符(如电子邮件)。
from langchain_openai import ChatOpenAI
chat_model = ChatOpenAI(openai_api_base="https://remembrall.dev/api/openai/v1",
model_kwargs={
"headers":{
"x-gp-api-key": "remembrall-api-key-here",
"x-gp-remember": "user@email.com",
}
})
chat_model.predict("My favorite color is blue.")
import time; time.sleep(5) # wait for system to save fact via auto save
print(chat_model.predict("What is my favorite color?"))
API 参考:ChatOpenAI
启用检索增强生成
首先,在 Remembrall 控制面板中创建文档上下文。粘贴文档文本或以 PDF 格式上传文档以进行处理。保存文档上下文 ID 并按如下所示插入。
from langchain_openai import ChatOpenAI
chat_model = ChatOpenAI(openai_api_base="https://remembrall.dev/api/openai/v1",
model_kwargs={
"headers":{
"x-gp-api-key": "remembrall-api-key-here",
"x-gp-context": "document-context-id-goes-here",
}
})
print(chat_model.predict("This is a question that can be answered with my document."))
API 参考:ChatOpenAI