AI21Embeddings
这将帮助您开始使用 LangChain 中的 AI21 嵌入模型。有关AI21Embeddings
功能和配置选项的详细文档,请参阅API 参考。
概述
集成详情
提供商 | 包 |
---|---|
AI21 | langchain-ai21 |
设置
要访问 AI21 嵌入模型,您需要创建一个 AI21 帐户,获取 API 密钥,并安装langchain-ai21
集成包。
凭据
前往https://docs.ai21.com/ 注册 AI21 并生成 API 密钥。完成此操作后,设置AI21_API_KEY
环境变量
import getpass
import os
if not os.getenv("AI21_API_KEY"):
os.environ["AI21_API_KEY"] = getpass.getpass("Enter your AI21 API key: ")
如果您希望自动跟踪您的模型调用,您也可以通过取消以下注释来设置您的LangSmith API 密钥
# os.environ["LANGCHAIN_TRACING_V2"] = "true"
# os.environ["LANGCHAIN_API_KEY"] = getpass.getpass("Enter your LangSmith API key: ")
安装
LangChain AI21 集成位于langchain-ai21
包中
%pip install -qU langchain-ai21
实例化
现在我们可以实例化我们的模型对象并生成聊天完成
from langchain_ai21 import AI21Embeddings
embeddings = AI21Embeddings(
# Can optionally increase or decrease the batch_size
# to improve latency.
# Use larger batch sizes with smaller documents, and
# smaller batch sizes with larger documents.
# batch_size=256,
)
索引和检索
嵌入模型通常用于检索增强生成 (RAG) 流程,既作为索引数据的一部分,也作为稍后检索数据的一部分。有关更详细的说明,请参阅我们位于使用外部知识教程下的 RAG 教程。
下面,请参阅如何使用上面初始化的embeddings
对象索引和检索数据。在此示例中,我们将使用InMemoryVectorStore
索引和检索示例文档。
# Create a vector store with a sample text
from langchain_core.vectorstores import InMemoryVectorStore
text = "LangChain is the framework for building context-aware reasoning applications"
vectorstore = InMemoryVectorStore.from_texts(
[text],
embedding=embeddings,
)
# Use the vectorstore as a retriever
retriever = vectorstore.as_retriever()
# Retrieve the most similar text
retrieved_documents = retriever.invoke("What is LangChain?")
# show the retrieved document's content
retrieved_documents[0].page_content
API 参考:InMemoryVectorStore
'LangChain is the framework for building context-aware reasoning applications'
直接使用
在幕后,向量存储和检索器实现分别调用embeddings.embed_documents(...)
和embeddings.embed_query(...)
来为from_texts
和检索invoke
操作中使用的文本创建嵌入。
您可以直接调用这些方法来获取嵌入以用于您自己的用例。
嵌入单个文本
您可以使用embed_query
嵌入单个文本或文档
single_vector = embeddings.embed_query(text)
print(str(single_vector)[:100]) # Show the first 100 characters of the vector
[0.01913362182676792, 0.004960147198289633, -0.01582135073840618, -0.042474791407585144, 0.040200788
嵌入多个文本
您可以使用embed_documents
嵌入多个文本
text2 = (
"LangGraph is a library for building stateful, multi-actor applications with LLMs"
)
two_vectors = embeddings.embed_documents([text, text2])
for vector in two_vectors:
print(str(vector)[:100]) # Show the first 100 characters of the vector
[0.03029559925198555, 0.002908500377088785, -0.02700909972190857, -0.04616579785943031, 0.0382771529
[0.018214847892522812, 0.011460083536803722, -0.03329407051205635, -0.04951060563325882, 0.032756105
API 参考
有关AI21Embeddings
功能和配置选项的详细文档,请参阅API 参考。