白川 LLM

百川智能 (https://www.baichuan-ai.com/) 是 AGI 时代的一家中国初创公司，致力于解决人类的基本需求：效率、健康和幸福。

##Installing the langchain packages needed to use the integration
%pip install -qU langchain-community

先决条件

访问百川 LLM API 需要 API 密钥。请访问 https://platform.baichuan-ai.com/ 获取您的 API 密钥。

使用百川 LLM

import os

os.environ["BAICHUAN_API_KEY"] = "YOUR_API_KEY"

from langchain_community.llms import BaichuanLLM

# Load the model
llm = BaichuanLLM()

res = llm.invoke("What's your name?")
print(res)

API 参考：BaichuanLLM

res = llm.generate(prompts=["你好！"])
res

for res in llm.stream("Who won the second world war?"):
    print(res)

import asyncio


async def run_aio_stream():
    async for res in llm.astream("Write a poem about the sun."):
        print(res)


asyncio.run(run_aio_stream())

相关

• LLM 概念指南
• LLM 操作指南