Cohere

注意

您目前正在查看一个页面，该页面记录了将 Cohere 模型用作文本补全模型。许多流行的 Cohere 模型是聊天补全模型。

您可能需要改用此页面。

Cohere 是一家加拿大初创公司，提供自然语言处理模型，帮助公司改进人机交互。

访问API 参考以获取所有属性和方法的详细文档。

概述

集成详情

类	包	本地	可序列化	JS 支持	包下载	包最新版本
Cohere	langchain_community	❌	测试版	✅

设置

集成位于 langchain-community 包中。我们还需要安装 cohere 包本身。我们可以使用以下命令安装它们：

凭据

我们需要获取一个Cohere API 密钥并设置 COHERE_API_KEY 环境变量

import getpass
import os

if "COHERE_API_KEY" not in os.environ:
    os.environ["COHERE_API_KEY"] = getpass.getpass()

安装

pip install -U langchain-community langchain-cohere

为了获得最佳的可观察性，建议（但不是必须）设置LangSmith

# os.environ["LANGCHAIN_TRACING_V2"] = "true"
# os.environ["LANGCHAIN_API_KEY"] = getpass.getpass()

调用

Cohere 支持所有LLM 功能

from langchain_cohere import Cohere
from langchain_core.messages import HumanMessage

API 参考：HumanMessage

model = Cohere(max_tokens=256, temperature=0.75)

message = "Knock knock"
model.invoke(message)

" Who's there?"

await model.ainvoke(message)

" Who's there?"

for chunk in model.stream(message):
    print(chunk, end="", flush=True)

 Who's there?

model.batch([message])

[" Who's there?"]

链式调用

您还可以轻松地将其与提示模板结合使用，以便轻松构建用户输入。我们可以使用LCEL 来实现。

from langchain_core.prompts import PromptTemplate

prompt = PromptTemplate.from_template("Tell me a joke about {topic}")
chain = prompt | model

API 参考：PromptTemplate

chain.invoke({"topic": "bears"})

' Why did the teddy bear cross the road?\nBecause he had bear crossings.\n\nWould you like to hear another joke? '

API 参考

有关所有 Cohere LLM 功能和配置的详细文档，请访问 API 参考：https://python.langchain.ac.cn/v0.2/api_reference/community/llms/langchain_community.llms.cohere.Cohere.html

相关

• LLM 概念指南
• LLM 操作指南