跳到主要内容

Upstash 为开发者提供无服务器数据库和消息传递平台,以便构建强大的应用程序,而无需担心大规模运行数据库的运营复杂性。

Upstash 的一个显著优势是其数据库支持 HTTP,并且所有 SDK 都使用 HTTP。这意味着您可以在无服务器平台、边缘或任何不支持 TCP 连接的平台上运行它。

目前,LangChain 有两种 Upstash 集成可用:Upstash Vector 作为向量嵌入数据库,以及 Upstash Redis 作为缓存和内存存储。

Upstash 向量

Upstash Vector 是一个无服务器向量数据库,可用于存储和查询向量。

安装

Upstash 控制台 创建一个新的无服务器向量数据库。根据您的模型选择首选的距离度量和维度计数。

使用 pip install upstash-vector 安装 Upstash Vector Python SDK。langchain 中的 Upstash Vector 集成是 Upstash Vector Python SDK 的包装器。这就是为什么需要 upstash-vector 包。

集成

使用 Upstash 控制台中的凭据创建一个 UpstashVectorStore 对象。您还需要传入一个 Embeddings 对象,该对象可以将文本转换为向量嵌入。

from langchain_community.vectorstores.upstash import UpstashVectorStore
import os

os.environ["UPSTASH_VECTOR_REST_URL"] = "<UPSTASH_VECTOR_REST_URL>"
os.environ["UPSTASH_VECTOR_REST_TOKEN"] = "<UPSTASH_VECTOR_REST_TOKEN>"

store = UpstashVectorStore(
embedding=embeddings
)
API 参考:UpstashVectorStore

UpstashVectorStore 的另一种方法是传递 embedding=True。这是 UpstashVectorStore 的一个独特功能,这得益于 Upstash Vector 索引具有关联的嵌入模型的能力。在这种配置中,我们想要插入的文档或我们想要搜索的查询只是作为文本发送到 Upstash Vector。在后台,Upstash Vector 会嵌入这些文本并使用这些嵌入执行请求。要使用此功能,请通过选择一个模型来创建一个 Upstash Vector 索引,然后简单地传递 embedding=True

from langchain_community.vectorstores.upstash import UpstashVectorStore
import os

os.environ["UPSTASH_VECTOR_REST_URL"] = "<UPSTASH_VECTOR_REST_URL>"
os.environ["UPSTASH_VECTOR_REST_TOKEN"] = "<UPSTASH_VECTOR_REST_TOKEN>"

store = UpstashVectorStore(
embedding=True
)
API 参考:UpstashVectorStore

有关嵌入模型的更多详细信息,请参阅 Upstash Vector 文档

命名空间

您可以使用命名空间在索引中对数据进行分区。当您想要查询大量数据时,并且想要对数据进行分区以加快查询速度时,命名空间很有用。当您使用命名空间时,结果不会进行后过滤,这将使查询结果更精确。

from langchain_community.vectorstores.upstash import UpstashVectorStore
import os

os.environ["UPSTASH_VECTOR_REST_URL"] = "<UPSTASH_VECTOR_REST_URL>"
os.environ["UPSTASH_VECTOR_REST_TOKEN"] = "<UPSTASH_VECTOR_REST_TOKEN>"

store = UpstashVectorStore(
embedding=embeddings
namespace="my_namespace"
)
API 参考:UpstashVectorStore

插入向量

from langchain.text_splitter import CharacterTextSplitter
from langchain_community.document_loaders import TextLoader
from langchain_openai import OpenAIEmbeddings

loader = TextLoader("../../modules/state_of_the_union.txt")
documents = loader.load()
text_splitter = CharacterTextSplitter(chunk_size=1000, chunk_overlap=0)
docs = text_splitter.split_documents(documents)

# Create a new embeddings object
embeddings = OpenAIEmbeddings()

# Create a new UpstashVectorStore object
store = UpstashVectorStore(
embedding=embeddings
)

# Insert the document embeddings into the store
store.add_documents(docs)

插入文档时,首先使用 Embeddings 对象嵌入它们。

大多数嵌入模型可以一次嵌入多个文档,因此文档会批量处理并并行嵌入。可以使用 embedding_chunk_size 参数控制批次的大小。

然后将嵌入的向量存储在 Upstash Vector 数据库中。发送它们时,会将多个向量批量处理在一起,以减少 HTTP 请求的数量。可以使用 batch_size 参数控制批次的大小。Upstash Vector 在免费层中每个批次限制为 1000 个向量。

store.add_documents(
documents,
batch_size=100,
embedding_chunk_size=200
)

查询向量

可以使用文本查询或另一个向量来查询向量。

返回的值是一个 Document 对象列表。

result = store.similarity_search(
"The United States of America",
k=5
)

或使用向量

vector = embeddings.embed_query("Hello world")

result = store.similarity_search_by_vector(
vector,
k=5
)

搜索时,您还可以使用 filter 参数,该参数允许您按元数据进行过滤

result = store.similarity_search(
"The United States of America",
k=5,
filter="type = 'country'"
)

有关元数据过滤的更多详细信息,请参阅 Upstash Vector 文档

删除向量

可以使用其 ID 删除向量。

store.delete(["id1", "id2"])

获取有关存储的信息

您可以使用 info 函数获取有关数据库的信息,例如距离度量维度。

当发生插入操作时,数据库会进行索引。在此期间,新的向量无法被查询。pendingVectorCount 表示当前正在被索引的向量数量。

info = store.info()
print(info)

# Output:
# {'vectorCount': 44, 'pendingVectorCount': 0, 'indexSize': 2642412, 'dimension': 1536, 'similarityFunction': 'COSINE'}

Upstash Redis

本页介绍如何将 Upstash Redis 与 LangChain 结合使用。

安装和设置

  • 可以使用 pip install upstash-redis 安装 Upstash Redis Python SDK
  • 可以在 Upstash 控制台 创建一个全球分布式、低延迟和高可用的数据库。

集成

所有 Upstash-LangChain 集成都基于 upstash-redis Python SDK,该 SDK 作为 LangChain 的包装器被使用。此 SDK 通过控制台提供的 UPSTASH_REDIS_REST_URL 和 UPSTASH_REDIS_REST_TOKEN 参数来使用 Upstash Redis 数据库。

缓存

Upstash Redis 可以用作 LLM 提示和响应的缓存。

要导入此缓存

from langchain.cache import UpstashRedisCache

要与您的 LLM 一起使用

import langchain
from upstash_redis import Redis

URL = "<UPSTASH_REDIS_REST_URL>"
TOKEN = "<UPSTASH_REDIS_REST_TOKEN>"

langchain.llm_cache = UpstashRedisCache(redis_=Redis(url=URL, token=TOKEN))

内存

请参阅使用示例

from langchain_community.chat_message_histories import (
UpstashRedisChatMessageHistory,
)

此页是否对您有帮助?