跳到主要内容
Open on GitHub

Pipeshift

Pipeshift 是一个用于开源 LLM 的微调和推理平台

  • 您自带数据集。微调多个 LLM。一键启动推理，并观看它们扩展到数百万规模。

安装和设置​

  • 安装 Pipeshift 集成包。

    pip install langchain-pipeshift

  • 通过在 Pipeshift 上注册获取您的 Pipeshift API 密钥。

身份验证​

您可以使用您的 Pipeshift API 密钥通过以下任何一种方式执行身份验证

  1. 将 API 密钥作为 PIPESHIFT_API_KEY 添加到环境变量。

    os.environ["PIPESHIFT_API_KEY"] = "<your_api_key>"

  2. 通过将 api_key 传递给 pipeshift LLM 模块或聊天模块

    llm = Pipeshift(api_key="<your_api_key>", model="meta-llama/Meta-Llama-3.1-8B-Instruct", max_tokens=512)

                        OR

    chat = ChatPipeshift(api_key="<your_api_key>", model="meta-llama/Meta-Llama-3.1-8B-Instruct", max_tokens=512)

聊天模型​

查看示例。

from langchain_pipeshift import ChatPipeshift

LLMs​

查看示例。

from langchain_pipeshift import Pipeshift

此页面是否对您有帮助？