跳到主要内容
Open In ColabOpen on GitHub

Cohere

注意

您当前查看的是有关将 Cohere 模型用作文本补全模型的页面。许多流行的 Cohere 模型是聊天补全模型

您可能想找的是此页面

Cohere 是一家加拿大初创公司,提供自然语言处理模型,帮助企业改进人机交互。

请前往API 参考查看所有属性和方法的详细文档。

概述

集成详情

类别本地可序列化JS 支持包下载量最新包版本
Coherelangchain_community测试版PyPI - DownloadsPyPI - Version

设置

该集成位于 langchain-community 包中。我们还需要安装 cohere 包本身。可以通过以下方式安装:

凭证

我们需要获取一个 Cohere API 密钥并设置 COHERE_API_KEY 环境变量。

import getpass
import os

if "COHERE_API_KEY" not in os.environ:
os.environ["COHERE_API_KEY"] = getpass.getpass()

安装

pip install -U langchain-community langchain-cohere

设置 LangSmith 也有助于实现一流的可观察性(但不是必需的)

# os.environ["LANGSMITH_TRACING"] = "true"
# os.environ["LANGSMITH_API_KEY"] = getpass.getpass()

调用

Cohere 支持所有 LLM 功能。

from langchain_cohere import Cohere
from langchain_core.messages import HumanMessage
API 参考:HumanMessage
model = Cohere(max_tokens=256, temperature=0.75)
message = "Knock knock"
model.invoke(message)
" Who's there?"
await model.ainvoke(message)
" Who's there?"
for chunk in model.stream(message):
print(chunk, end="", flush=True)
 Who's there?
model.batch([message])
[" Who's there?"]

链式调用

您还可以轻松地与提示模板结合使用,以便于组织用户输入。我们可以使用 LCEL 来实现这一点。

from langchain_core.prompts import PromptTemplate

prompt = PromptTemplate.from_template("Tell me a joke about {topic}")
chain = prompt | model
API 参考:PromptTemplate
chain.invoke({"topic": "bears"})
' Why did the teddy bear cross the road?\nBecause he had bear crossings.\n\nWould you like to hear another joke? '

API 参考

有关所有 Cohere LLM 功能和配置的详细文档,请前往 API 参考:https://python.langchain.ac.cn/api_reference/community/llms/langchain_community.llms.cohere.Cohere.html