跳到主要内容
Open on GitHub

LLMs

注意

您当前正在查看关于使用文本补全模型的文档页面。许多最新和最流行的模型都是聊天补全模型

除非您正在使用更高级的提示技术,否则您可能正在寻找此页面

LLM 是语言模型,它将字符串作为输入并返回字符串作为输出。

信息

如果您想编写自己的 LLM,请参阅此操作指南。如果您想贡献一个集成,请参阅贡献集成

提供商
AI21LLMlangchain-ai21
AnthropicLLMlangchain-anthropic
AzureOpenAIlangchain-openai
BedrockLLMlangchain-aws
CohereLLMlangchain-cohere
FireworksLLMlangchain-fireworks
OllamaLLMlangchain-ollama
OpenAILLMlangchain-openai
TogetherLLMlangchain-together
VertexAILLMlangchain-google-vertexai
NVIDIAlangchain-nvidia

所有 LLM

名称描述
AI21 Labs请参阅此页面以获取更新后的 ChatAI21 对象。
Aleph AlphaLuminous 系列是大型语言模型家族。
阿里云 PAI EAS阿里云的机器学习平台(MLP)是一个机器学习...
Amazon API GatewayAmazon API Gateway 是一种完全托管的服务,可帮助用户轻松地...
AnyscaleAnyscale 是一个完全托管的 Ray 平台,您可以在其上构建、部署...
Aphrodite EngineAphrodite 是旨在进行大规模推理的开源推理引擎,旨在...
Arcee本 Jupyter Notebook 演示了如何使用 Arcee 类生成...
Azure MLAzure ML 是一个用于构建、训练和部署机器学习... 的平台。
Azure OpenAI您当前正在查看关于使用 Azure OpenAI 文本... 的文档页面。
Baichuan LLM百川智能(Baichuan Inc.)(https 高效、健康、快乐。
百度千帆百度 AI 云千帆平台是一个一站式大模型开发平台...
BananaBanana 专注于构建机器学习基础设施。
BasetenBaseten 是 LangChain 生态系统中的一个提供商,它实现了...
Beam调用 Beam API 封装器以部署并对... 进行后续调用。
Bedrock您当前正在查看关于使用 Amazon Bedrock 模型... 的文档页面。
BittensorBittensor 是一个类似于比特币的挖矿网络,其中包括构建...
CerebriumAICerebrium 是 AWS Sagemaker 的替代方案。它还提供 API 访问...
ChatGLMChatGLM-6B 是一个基于通用语言... 的开放双语语言模型。
ClarifaiClarifai 是一个提供完整 AI 生命周期范围的 AI 平台。
Cloudflare Workers AICloudflare AI 文档列出了所有可用的生成式文本模型...
Cohere您当前正在查看关于使用 Cohere 模型作为... 的文档页面。
C TransformersC Transformers 库为 GGML 模型提供 Python 绑定。
CTranslate2CTranslate2 是一个 C++ 和 Python 库,用于高效推理...
DatabricksDatabricks Lakehouse 平台将数据、分析和 AI 统一在一个平台...
DeepInfraDeepInfra 是一种无服务器推理即服务,提供对大语言模型的访问...
DeepSparse本页面介绍了如何在 L... 中使用 DeepSparse 推理运行时。
Eden AIEden AI 通过整合最佳 AI 产品,正在彻底改变 AI 格局。
ExLlamaV2ExLlamav2 是一个快速推理库,用于在现代... 上本地运行 LLM。
Fireworks您当前正在查看关于使用 Fireworks 模型作为... 的文档页面。
ForefrontAIForefront 平台使您能够微调和使用开放...
FriendliFriendli 提升了 AI 应用程序性能并优化了成本节约...
Google AI您当前正在查看关于使用 Google 模型作为... 的文档页面。
谷歌云 Vertex AI您当前正在查看关于使用 Google Vertex 文本... 的文档页面。
GooseAIGooseAI 是一种通过 API 交付的完全托管的 NLP 即服务。Goose...
GPT4AllGitHub:nomic-ai/gpt4all 一个开源聊天机器人生态系统,训练用于...
GradientGradient 允许通过简单... 对 LLM 进行微调和获取补全。
Huggingface EndpointsHugging Face Hub 是一个拥有超过 12 万个模型、2 万个数据集... 的平台。
Hugging Face 本地管道Hugging Face 模型可以通过 HuggingFacePipeline... 在本地运行。
IBM watsonx.aiWatsonxLLM 是 IBM watsonx.ai 基础模型的封装器。
IPEX-LLMIPEX-LLM 是一个 PyTorch 库,用于在 Intel CPU 和 GPU(例如...)上运行 LLM。
Javelin AI Gateway 教程本 Jupyter Notebook 将探讨如何与 Javelin A... 交互。
JSONFormerJSONFormer 是一个库,它封装了本地 Hugging Face 流水线模型...
KoboldAI APIKoboldAI 是一个“基于浏览器的前端,用于 AI 辅助写作,支持...”。
KonkoKonko API 是一个完全托管的 Web API,旨在帮助应用程序开发...
Layerup SecurityLayerup Security 集成允许您保护对... 的调用。
Llama.cppllama-cpp-python 是 llama.cpp 的 Python 绑定。
LlamafileLlamafile 允许您通过单个文件分发和运行 LLM。
LM Format EnforcerLM Format Enforcer 是一个库,它强制执行语言... 的输出格式。
Manifest本 Jupyter Notebook 介绍了如何使用 Manifest 和 LangChain。
MinimaxMinimax 是一家中国初创公司,提供自然语言处理...
MLX 本地管道MLX 模型可以通过 MLXPipeline 类在本地运行。
ModalModal 云平台提供了便捷的按需服务访问...
ModelScopeModelScope (主页 | GitHub) 是基于“模型即服务”的概念构建的。
MoonshotChatMoonshot 是一家中国初创公司,为公司提供 LLM 服务...
MosaicMLMosaicML 提供托管推理服务。您可以使用各种...
NLP CloudNLP Cloud 为... 提供高性能预训练或自定义模型。
NVIDIA这将帮助您开始使用 NVIDIA 模型。有关详细文档...
oci_generative_aiOracle 云基础设施生成式 AI
OCI 数据科学模型部署端点OCI Data Science 是一个完全托管的无服务器数据科学平台...
OctoAIOctoAI 提供便捷高效的计算访问,并使用户能够...
Ollama您当前正在查看关于使用 Ollama 模型作为... 的文档页面。
OpaquePromptsOpaquePrompts 是一项服务,使应用程序能够利用...
OpenAI您当前正在查看关于使用 OpenAI 文本补全... 的文档页面。
OpenLLM🦾 OpenLLM 让开发者可以将任何开源 LLM 作为 OpenAI 兼容... 运行。
OpenLMOpenLM 是一个零依赖的 OpenAI 兼容 LLM 提供商,可以...
OpenVINOOpenVINO™ 是一个用于优化和部署 AI ... 的开源工具包。
Outlines这将帮助您开始使用 Outlines LLM。有关详细文档...
PetalsPetals 在本地以 BitTorrent 方式运行 1000 亿+ 语言模型。
PipelineAIPipelineAI 允许您在云中大规模运行 ML 模型。它...
Pipeshift这将帮助您开始使用 Pipeshift 补全模型(LLMs...)。
PredibasePredibase 允许您训练、微调和部署任何机器学习模型——从...
PredictionGuardPrediction Guard 是一个安全、可扩展的生成式 AI 平台,可保护...
PromptLayer OpenAIPromptLayer 是第一个允许您跟踪、管理和... 的平台。
RELLMRELLM 是一个库,用于封装本地 Hugging Face 流水线模型以...
ReplicateReplicate 在云端运行机器学习模型。我们有一个库...
RunhouseRunhouse 允许跨环境和用户进行远程计算和数据...
RunPod LLM开始使用 RunPod LLM。
SageMakerEndpointAmazon SageMaker 是一个可以构建、训练和部署机器学习... 的系统。
SambaNovaCloudSambaNova 的 SambaNova Cloud 是一个用于执行推理的平台...
SambaStudioSambaNova 的 Sambastudio 是一个平台,允许您训练、运行...
Solar此社区集成已弃用。您应该使用 ChatUpstage ...
SparkLLMSparkLLM 是一个由... 独立开发的大规模认知模型。
StochasticAIStochastic 加速平台旨在简化... 的生命周期。
Nebula (Symbl.ai)Nebula 是一个由 Symbl.ai 构建的大型语言模型 (LLM)。它经过训练...
TextGenGitHub:oobabooga/text-generation-webui 一个用于运行 La... 的 gradio Web UI。
Titan TakeoffTitanML 帮助企业构建和部署更好、更小、更便宜且... 的模型。
Together AI您当前正在查看关于使用 Together AI 模型... 的文档页面。
通义千问通义千问(Tongyi Qwen)是阿里巴巴达摩院开发的大规模语言模型...
vLLMvLLM 是一个用于 LLM 推理和服务的高速易用库...
火山引擎 Maas本 Jupyter Notebook 提供了关于如何开始使用 Vo... 的指南。
Intel Weight-Only 量化适用于 Huggingface 模型的仅权重量化(配合 Intel Extension ...)。
Writer LLMWriter 是一个生成不同语言内容的平台。
Xorbits 推理 (Xinference)Xinference 是一个功能强大且多功能的库,旨在提供 LLM 服务,
YandexGPT本 Jupyter Notebook 介绍了如何将 Langchain 与 YandexGPT 结合使用。
Yi零一万物(01.AI),由李开复博士创立,是一家处于... 前沿的全球性公司。
Yuan2.0元2.0(Yuan2.0)是由... 开发的新一代基础大型语言模型。