Groq
Groq 开发了全球首个语言处理单元™ (
LPU
)。Groq LPU
采用确定性的单核流式架构,为生成式AI推理速度设定了标准,并为任何给定工作负载提供可预测和可重复的性能。除了架构之外,
Groq
软件旨在为您这样的开发者赋能,提供您创建创新、强大AI应用程序所需的工具。以 Groq 作为您的引擎,您可以
- 实现卓越的低延迟和高性能,用于实时AI和高性能计算(HPC)推理 🔥
- 了解任何给定工作负载的精确性能和计算时间 🔮
- 利用我们尖端的技术保持竞争优势 💪
安装与设置
安装集成包
pip install langchain-groq
申请 API 密钥 并将其设置为环境变量
export GROQ_API_KEY=gsk_...
聊天模型
查看 使用示例。
from langchain_groq import ChatGroq
API 参考:ChatGroq