Xorbits 推理 (Xinference)
此笔记本介绍了如何在 LangChain 中使用 Xinference 嵌入。
安装
通过 PyPI 安装 Xinference。
%pip install --upgrade --quiet "xinference[all]"
在本地或分布式集群中部署 Xinference。
对于本地部署，运行 xinference。
要在集群中部署 Xinference，首先使用 xinference-supervisor 启动 Xinference 监管程序。您还可以使用 -p 选项指定端口，并使用 -H 选项指定主机。默认端口为 9997。
然后，在您想要运行 Xinference 工作程序的每个服务器上使用 xinference-worker 启动 Xinference 工作程序。
您可以查阅来自 Xinference 的 README 文件以获取更多信息。
包装器
要将 Xinference 与 LangChain 一起使用，您需要先启动一个模型。您可以使用命令行界面 (CLI) 来执行此操作。
!xinference launch -n vicuna-v1.3 -f ggmlv3 -q q4_0
Model uid: 915845ee-2a04-11ee-8ed4-d29396a3f064
将返回一个模型 UID 供您使用。现在，您可以将 Xinference 嵌入与 LangChain 一起使用。
from langchain_community.embeddings import XinferenceEmbeddings
xinference = XinferenceEmbeddings(
server_url="http://0.0.0.0:9997", model_uid="915845ee-2a04-11ee-8ed4-d29396a3f064"
)
API 参考：XinferenceEmbeddings
query_result = xinference.embed_query("This is a test query")
doc_result = xinference.embed_documents(["text A", "text B"])
最后，当您不再需要使用模型时，请终止它。
!xinference terminate --model-uid "915845ee-2a04-11ee-8ed4-d29396a3f064"