跳到主要内容
Open In ColabOpen on GitHub

Bedrock (知识库) 检索器

本指南将帮助您开始使用 AWS 知识库检索器

Amazon Bedrock 知识库是亚马逊网络服务 (AWS) 提供的一项服务,它允许您通过使用私有数据来定制 FM 响应,从而快速构建 RAG 应用程序。

实现 RAG 需要组织执行几个繁琐的步骤,将数据转换为嵌入(向量),将嵌入存储在专门的向量数据库中,并构建与数据库的自定义集成以搜索和检索与用户查询相关的文本。这可能非常耗时且低效。

使用 Amazon Bedrock 知识库,您只需指向 Amazon S3 中数据的位置,Amazon Bedrock 知识库就会负责将数据摄取到您的向量数据库的整个工作流程。如果您没有现有的向量数据库,Amazon Bedrock 会为您创建一个 Amazon OpenSearch Serverless 向量存储。对于检索,使用 Langchain - Amazon Bedrock 集成,通过 Retrieve API 从知识库中检索用户查询的相关结果。

集成详情

检索器自托管云服务
AmazonKnowledgeBasesRetrieverlangchain_aws

设置

知识库可以通过AWS 控制台或使用AWS SDKs进行配置。我们需要knowledge_base_id来实例化检索器。

如果您想获取单个查询的自动化追踪,您还可以通过取消注释下方内容来设置您的 LangSmith API 密钥。

# os.environ["LANGSMITH_API_KEY"] = getpass.getpass("Enter your LangSmith API key: ")
# os.environ["LANGSMITH_TRACING"] = "true"

安装

此检索器位于 langchain-aws 包中

%pip install -qU langchain-aws

实例化

现在我们可以实例化我们的检索器

from langchain_aws.retrievers import AmazonKnowledgeBasesRetriever

retriever = AmazonKnowledgeBasesRetriever(
knowledge_base_id="PUIJP4EQUA",
retrieval_config={"vectorSearchConfiguration": {"numberOfResults": 4}},
)

使用

query = "What did the president say about Ketanji Brown?"

retriever.invoke(query)

在链中使用

from botocore.client import Config
from langchain.chains import RetrievalQA
from langchain_aws import Bedrock

model_kwargs_claude = {"temperature": 0, "top_k": 10, "max_tokens_to_sample": 3000}

llm = Bedrock(model_id="anthropic.claude-v2", model_kwargs=model_kwargs_claude)

qa = RetrievalQA.from_chain_type(
llm=llm, retriever=retriever, return_source_documents=True
)

qa(query)
API 参考:RetrievalQA

API 参考

有关所有 AmazonKnowledgeBasesRetriever 功能和配置的详细文档,请查阅API 参考