跳到主要内容
Open on GitHub

Groq

Groq 开发了全球首个语言处理单元™ (LPU)。Groq LPU 采用确定性的单核流式架构,为生成式AI推理速度设定了标准,并为任何给定工作负载提供可预测和可重复的性能。

除了架构之外,Groq 软件旨在为您这样的开发者赋能,提供您创建创新、强大AI应用程序所需的工具。

以 Groq 作为您的引擎,您可以

  • 实现卓越的低延迟和高性能,用于实时AI和高性能计算(HPC)推理 🔥
  • 了解任何给定工作负载的精确性能和计算时间 🔮
  • 利用我们尖端的技术保持竞争优势 💪

安装与设置

安装集成包

pip install langchain-groq

申请 API 密钥 并将其设置为环境变量

export GROQ_API_KEY=gsk_...

聊天模型

查看 使用示例

from langchain_groq import ChatGroq
API 参考:ChatGroq