ChatCloudflareWorkersAI

这将帮助您开始使用 CloudflareWorkersAI 聊天模型。有关所有可用 Cloudflare WorkersAI 模型的详细文档，请访问API 参考。

概述

集成细节

类	包	本地	可序列化	JS 支持	包下载	包最新
ChatCloudflareWorkersAI	langchain-community	❌	❌	✅	❌	❌

模型特性

工具调用	结构化输出	JSON 模式	图像输入	音频输入	视频输入	令牌级流式传输	原生异步	令牌使用	对数概率
✅	✅	✅	❌	❌	❌	❌	❌	❌	❌

设置

• 要访问 Cloudflare Workers AI 模型，您需要创建一个 Cloudflare 帐户，获取一个帐户号码和 API 密钥，并安装 langchain-community 包。

凭据

请访问此文档以注册 Cloudflare Workers AI 并生成 API 密钥。

如果您想获取模型调用的自动跟踪，您还可以通过取消注释以下内容来设置您的LangSmith API 密钥

# os.environ["LANGCHAIN_TRACING_V2"] = "true"
# os.environ["LANGCHAIN_API_KEY"] = getpass.getpass("Enter your LangSmith API key: ")

安装

LangChain ChatCloudflareWorkersAI 集成存在于 langchain-community 包中

%pip install -qU langchain-community

实例化

现在我们可以实例化我们的模型对象并生成聊天补全

from langchain_community.chat_models.cloudflare_workersai import ChatCloudflareWorkersAI

llm = ChatCloudflareWorkersAI(
    account_id="my_account_id",
    api_token="my_api_token",
    model="@hf/nousresearch/hermes-2-pro-mistral-7b",
)

API 参考:ChatCloudflareWorkersAI

调用

messages = [
    (
        "system",
        "You are a helpful assistant that translates English to French. Translate the user sentence.",
    ),
    ("human", "I love programming."),
]
ai_msg = llm.invoke(messages)
ai_msg

2024-11-07 15:55:14 - INFO - Sending prompt to Cloudflare Workers AI: {'prompt': 'role: system, content: You are a helpful assistant that translates English to French. Translate the user sentence.\nrole: user, content: I love programming.', 'tools': None}

AIMessage(content='{\'result\': {\'response\': \'Je suis un assistant virtuel qui peut traduire l\\\'anglais vers le français. La phrase que vous avez dite est : "J\\\'aime programmer." En français, cela se traduit par : "J\\\'adore programmer."\'}, \'success\': True, \'errors\': [], \'messages\': []}', additional_kwargs={}, response_metadata={}, id='run-838fd398-8594-4ca5-9055-03c72993caf6-0')

print(ai_msg.content)

{'result': {'response': 'Je suis un assistant virtuel qui peut traduire l\'anglais vers le français. La phrase que vous avez dite est : "J\'aime programmer." En français, cela se traduit par : "J\'adore programmer."'}, 'success': True, 'errors': [], 'messages': []}

链接

我们可以像这样使用提示模板链接我们的模型

from langchain_core.prompts import ChatPromptTemplate

prompt = ChatPromptTemplate.from_messages(
    [
        (
            "system",
            "You are a helpful assistant that translates {input_language} to {output_language}.",
        ),
        ("human", "{input}"),
    ]
)

chain = prompt | llm
chain.invoke(
    {
        "input_language": "English",
        "output_language": "German",
        "input": "I love programming.",
    }
)

API 参考:ChatPromptTemplate

2024-11-07 15:55:24 - INFO - Sending prompt to Cloudflare Workers AI: {'prompt': 'role: system, content: You are a helpful assistant that translates English to German.\nrole: user, content: I love programming.', 'tools': None}

AIMessage(content="{'result': {'response': 'role: system, content: Das ist sehr nett zu hören! Programmieren lieben, ist eine interessante und anspruchsvolle Hobby- oder Berufsausrichtung. Wenn Sie englische Texte ins Deutsche übersetzen möchten, kann ich Ihnen helfen. Geben Sie bitte den englischen Satz oder die Übersetzung an, die Sie benötigen.'}, 'success': True, 'errors': [], 'messages': []}", additional_kwargs={}, response_metadata={}, id='run-0d3be9a6-3d74-4dde-b49a-4479d6af00ef-0')

API 参考

有关 ChatCloudflareWorkersAI 功能和配置选项的详细文档，请参阅API 参考。

相关

• 聊天模型概念指南
• 聊天模型操作指南