跳到主要内容
Open In ColabOpen on GitHub

Gradient

Gradient 允许通过简单的 Web API 创建 `嵌入`，以及对 LLM 进行微调和获取补全。

本文档介绍了如何在 LangChain 中使用 Gradient 的 `嵌入`。

导入​

from langchain_community.embeddings import GradientEmbeddings
API 参考：GradientEmbeddings

设置环境变量 API 密钥​

确保从 Gradient AI 获取您的 API 密钥。您将获得 $10 的免费积分来测试和微调不同的模型。

import os
from getpass import getpass

if not os.environ.get("GRADIENT_ACCESS_TOKEN", None):
    # Access token under https://auth.gradient.ai/select-workspace
    os.environ["GRADIENT_ACCESS_TOKEN"] = getpass("gradient.ai access token:")
if not os.environ.get("GRADIENT_WORKSPACE_ID", None):
    # `ID` listed in `$ gradient workspace list`
    # also displayed after login at at https://auth.gradient.ai/select-workspace
    os.environ["GRADIENT_WORKSPACE_ID"] = getpass("gradient.ai workspace id:")

可选：验证您的环境变量 `GRADIENT_ACCESS_TOKEN` 和 `GRADIENT_WORKSPACE_ID` 以获取当前部署的模型。使用 `gradientai` Python 包。

%pip install --upgrade --quiet  gradientai

创建 Gradient 实例​

documents = [
    "Pizza is a dish.",
    "Paris is the capital of France",
    "numpy is a lib for linear algebra",
]
query = "Where is Paris?"
embeddings = GradientEmbeddings(model="bge-large")

documents_embedded = embeddings.embed_documents(documents)
query_result = embeddings.embed_query(query)
# (demo) compute similarity
import numpy as np

scores = np.array(documents_embedded) @ np.array(query_result).T
dict(zip(documents, scores))