跳到主要内容
Open on GitHub

LLMs

注意

您当前正在浏览的页面是关于 文本补全模型 的使用文档。许多最新和最受欢迎的模型是 聊天补全模型

除非您专门使用更高级的提示技术,否则您可能正在寻找 这个页面

LLMs 是将字符串作为输入并返回字符串作为输出的语言模型。

信息

如果您想编写自己的 LLM,请参阅 此操作指南。如果您想贡献集成,请参阅 贡献集成

提供商
AI21LLMlangchain-ai21
AnthropicLLMlangchain-anthropic
AzureOpenAIlangchain-openai
BedrockLLMlangchain-aws
CohereLLMlangchain-cohere
FireworksLLMlangchain-fireworks
OllamaLLMlangchain-ollama
OpenAILLMlangchain-openai
TogetherLLMlangchain-together
VertexAILLMlangchain-google_vertexai
NVIDIAlangchain-nvidia

所有 LLMs

名称描述
AI21 Labs请参阅此页面以获取更新后的 ChatAI21 对象。
Aleph AlphaLuminous 系列是一系列大型语言模型。
Alibaba Cloud PAI EAS阿里云机器学习平台是机器学习平台...
Amazon API GatewayAmazon API Gateway 是一项完全托管的服务,可以轻松地为...
AnyscaleAnyscale 是一个完全托管的 Ray 平台,您可以在其上构建、部署...
Aphrodite EngineAphrodite 是旨在实现大规模推理的开源大型推理引擎...
Arcee本笔记本演示了如何使用 Arcee 类生成...
Azure MLAzure ML 是一个用于构建、训练和部署机器学习的平台...
Azure OpenAI您当前正在浏览的页面是关于 Azure OpenAI 文本的使用文档...
Baichuan LLM百川智能 (https Efficiency, Health, and Happiness.
Baidu Qianfan百度 AI 云千帆平台是一站式大模型开发...
BananaBanana 专注于构建机器学习基础设施。
BasetenBaseten 是 LangChain 生态系统中的一个提供商,它实现了...
Beam调用 Beam API 包装器来部署并随后调用...
Bedrock您当前正在浏览的页面是关于 Amazon Bedrock 模型的使用文档...
BittensorBittensor 是一个类似于比特币的挖矿网络,其中包括构建...
CerebriumAICerebrium 是 AWS Sagemaker 的替代品。它还提供 API 访问...
ChatGLMChatGLM-6B 是一个基于通用语言的开源双语语言模型...
ClarifaiClarifai 是一个 AI 平台,提供从头到尾的完整 AI 生命周期...
Cloudflare Workers AICloudflare AI 文档列出了所有可用的生成文本模型...
Cohere您当前正在浏览的页面是关于将 Cohere 模型用作...
C TransformersC Transformers 库为 GGML 模型提供 Python 绑定。
CTranslate2CTranslate2 是一个 C++ 和 Python 库,用于使用以下工具进行高效推理...
DatabricksDatabricks Lakehouse Platform 将数据、分析和 AI 统一在一个平台上...
DeepInfraDeepInfra 是一种无服务器推理即服务,可提供访问...
DeepSparse本页介绍了如何在 L 中使用 DeepSparse 推理运行时...
Eden AIEden AI 通过联合最佳 AI 提供商彻底改变了 AI 格局...
ExLlamaV2ExLlamav2 是一个快速推理库,用于在 mod 上本地运行 LLM...
Fireworks您当前正在浏览的页面是关于 Fireworks 模型的使用文档...
ForefrontAIForefront 平台使您能够微调和使用开放...
FriendliFriendli 提高了 AI 应用程序的性能并优化了成本节省...
GigaChat本笔记本展示了如何将 LangChain 与 GigaChat 一起使用。
Google AI您当前正在浏览的页面是关于将 Google 模型用作...
Google Cloud Vertex AI您当前正在浏览的页面是关于使用 Google Vertex 文本的文档...
GooseAIGooseAI 是一种完全托管的 NLP 即服务,通过 API 提供。Goose...
GPT4AllGitHub:nomic-ai/gpt4all 一个开源聊天机器人生态系统,经过训练...
GradientGradient 允许微调并在 LLM 上获得完成,并使用简单的...
Huggingface EndpointsHugging Face Hub 是一个平台,拥有超过 12 万个模型、2 万个数据集...
Hugging Face Local PipelinesHugging Face 模型可以通过 HuggingFacePipelin 在本地运行...
IBM watsonx.aiWatsonxLLM 是 IBM watsonx.ai 基础模型的包装器。
IPEX-LLMIPEX-LLM 是一个 PyTorch 库,用于在 Intel CPU 和 GPU 上运行 LLM (e...
Javelin AI Gateway Tutorial本 Jupyter Notebook 将探讨如何与 Javelin A 交互...
JSONFormerJSONFormer 是一个库,它包装了本地 Hugging Face 管道模型...
KoboldAI APIKoboldAI 是“一个基于浏览器的前端,用于 AI 辅助写作,具有...
KonkoKonko API 是一个完全托管的 Web API,旨在帮助应用程序开发人员...
Layerup SecurityLayerup Security 集成允许您保护对 a 的调用...
Llama.cppllama-cpp-python 是 llama.cpp 的 Python 绑定。
LlamafileLlamafile 让您可以使用单个文件分发和运行 LLM。
LM Format EnforcerLM Format Enforcer 是一个库,它强制执行 la 的输出格式...
Manifest本笔记本介绍了如何使用 Manifest 和 LangChain。
MinimaxMinimax 是一家中国初创公司,提供自然语言处理...
MLX Local PipelinesMLX 模型可以通过 MLXPipeline 类在本地运行。
ModalModal 云平台提供方便的按需访问服务...
ModelScopeModelScope (Home | GitHub) 构建在“模型即服务”的概念之上...
MoonshotChatMoonshot 是一家中国初创公司,为企业提供 LLM 服务...
MosaicMLMosaicML 提供托管推理服务。您可以选择使用变量...
NLP CloudNLP Cloud 为以下用户提供高性能的预训练或自定义模型...
NVIDIA这将帮助您开始使用 NVIDIA 模型。有关详细信息,请参阅...
oci_generative_aiOracle Cloud Infrastructure Generative AI
OCI Data Science Model Deployment EndpointOCI Data Science 是一个完全托管的无服务器平台,用于数据...
OctoAIOctoAI 提供对高效计算的轻松访问,并使用户能够 i...
Ollama您当前正在浏览的页面是关于将 Ollama 模型用作...
OpaquePromptsOpaquePrompts 是一项服务,使应用程序能够利用...
OpenAI您当前正在浏览的页面是关于 OpenAI 文本完成的使用文档...
OpenLLM🦾 OpenLLM 使开发人员能够将任何开源 LLM 作为 OpenAI 兼容的运行...
OpenLMOpenLM 是一个零依赖的 OpenAI 兼容 LLM 提供商,可以 c...
OpenVINOOpenVINO™ 是一个开源工具包,用于优化和部署 AI i...
Outlines这将帮助您开始使用 Outlines LLM。有关详细文档,请参阅...
PetalsPetals 在家中以 BitTorrent 风格运行 100B+ 语言模型。
PipelineAIPipelineAI 允许您在云中大规模运行 ML 模型。它...
Pipeshift这将帮助您开始使用 Pipeshift 完成模型 (LLMs...
PredibasePredibase 允许您训练、微调和部署任何 ML 模型——从...
PredictionGuardPrediction Guard 是一个安全、可扩展的 GenAI 平台,可保护...
PromptLayer OpenAIPromptLayer 是第一个允许您跟踪、管理和...
RELLMRELLM 是一个库,它包装了本地 Hugging Face 管道模型,用于 ...
ReplicateReplicate 在云中运行机器学习模型。我们有一个库...
RunhouseRunhouse 允许跨环境和用户进行远程计算和数据处理...
SageMakerEndpointAmazon SageMaker 是一个可以构建、训练和部署机器的系统...
SambaNovaCloudSambaNova 的 SambaNova Cloud 是一个用于执行推理的平台,具有...
SambaStudioSambaNova 的 Sambastudio 是一个平台,允许您训练、运行 b...
Solar此社区集成已弃用。您应该使用 ChatUpstage ...
SparkLLMSparkLLM 是由以下机构独立开发的大规模认知模型...
StochasticAIStochastic Acceleration Platform 旨在简化 a 的生命周期...
Nebula (Symbl.ai)Nebula 是 Symbl.ai 构建的大型语言模型 (LLM)。它经过训练...
TextGenGitHub:oobabooga/text-generation-webui 一个用于运行 La 的 gradio web UI...
Titan TakeoffTitanML 帮助企业构建和部署更好、更小、更便宜、更...
Together AI您当前正在浏览的页面是关于 Together AI 模型的使用文档...
Tongyi QwenTongyi Qwen 是阿里巴巴达摩院开发的大规模语言模型...
vLLMvLLM 是一个快速且易于使用的 LLM 推理和服务库,...
Volc Engine Maas本笔记本为您提供了有关如何开始使用 Vo 的指南...
Intel Weight-Only Quantization用于 Huggingface 模型的仅权重量化与 Intel Extension ...
Writer LLMWriter 是一个生成不同语言内容的平台。
Xorbits Inference (Xinference)Xinference 是一个功能强大且通用的库,旨在服务 LLM,
YandexGPT本笔记本介绍了如何将 Langchain 与 YandexGPT 一起使用。
Yi01.AI 由李开复博士创立,是一家处于前沿的全球性公司...
Yuan2.0Yuan2.0 是新一代基本大型语言模型,已开发...

此页是否对您有帮助?