Remembrall

本页介绍如何在 LangChain 中使用 Remembrall 生态系统。

什么是 Remembrall？

Remembrall 只需几行代码即可为您的语言模型提供长期记忆、检索增强生成和完全可观察性。

它作为 OpenAI 调用的轻量级代理工作，并在运行时使用收集到的相关事实简单地扩充聊天调用的上下文。

设置

首先，在 Remembrall 平台上使用 Github 登录，并从设置页面复制您的 API 密钥。

任何您使用修改后的 openai_api_base（见下文）和 Remembrall API 密钥发送的请求都将自动在 Remembrall 仪表板中跟踪。您永远不必与我们的平台分享您的 OpenAI 密钥，并且 Remembrall 系统永远不会存储此信息。

为此，我们需要安装以下依赖项

pip install -U langchain-openai

启用长期记忆

除了通过 x-gp-api-key 设置 openai_api_base 和 Remembrall API 密钥之外，您还应该指定一个 UID 以维护内存。 这通常是唯一的用户标识符（如电子邮件）。

from langchain_openai import ChatOpenAI
chat_model = ChatOpenAI(openai_api_base="https://remembrall.dev/api/openai/v1",
                        model_kwargs={
                            "headers":{
                                "x-gp-api-key": "remembrall-api-key-here",
                                "x-gp-remember": "user@email.com",
                            }
                        })

chat_model.predict("My favorite color is blue.")
import time; time.sleep(5)  # wait for system to save fact via auto save
print(chat_model.predict("What is my favorite color?"))

API 参考:ChatOpenAI

启用检索增强生成

首先，在 Remembrall 仪表板中创建一个文档上下文。 粘贴文档文本或上传 PDF 文档进行处理。 保存文档上下文 ID 并如下所示插入它。

from langchain_openai import ChatOpenAI
chat_model = ChatOpenAI(openai_api_base="https://remembrall.dev/api/openai/v1",
                        model_kwargs={
                            "headers":{
                                "x-gp-api-key": "remembrall-api-key-here",
                                "x-gp-context": "document-context-id-goes-here",
                            }
                        })

print(chat_model.predict("This is a question that can be answered with my document."))

API 参考:ChatOpenAI