Konko

所有与 Konko 相关的功能

Konko AI 提供完全托管的 API，以帮助应用程序开发人员

1. 为其应用程序选择合适的开源或专有 LLM
2. 通过与领先的应用程序框架集成和完全托管的 API，更快地构建应用程序
3. 微调较小的开源 LLM，以一小部分成本实现行业领先的性能
4. 使用 Konko AI 符合 SOC 2 标准的多云基础设施部署生产规模的 API，这些 API 满足安全性、隐私性、吞吐量和延迟 SLA，而无需基础设施设置或管理

安装和设置

1. 登录我们的 Web 应用程序以 创建 API 密钥，通过我们的端点访问模型，用于 聊天完成 和 补全。
2. 启用 Python 3.8+ 环境
3. 安装 SDK

pip install konko

4. 将 API 密钥设置为环境变量 (KONKO_API_KEY,OPENAI_API_KEY)

export KONKO_API_KEY={your_KONKO_API_KEY_here}
export OPENAI_API_KEY={your_OPENAI_API_KEY_here} #Optional

请参阅 Konko 文档 了解更多详情。

LLM

探索可用模型：首先浏览 Konko 上的可用模型。每个模型都适用于不同的用例和功能。

查找 Konko 实例上运行的模型列表的另一种方法是通过此 端点。

查看使用 示例。

端点使用示例

• 使用 mistralai/Mistral-7B-v0.1 完成

  from langchain_community.llms import Konko
  llm = Konko(max_tokens=800, model='mistralai/Mistral-7B-v0.1')
  prompt = "Generate a Product Description for Apple Iphone 15"
  response = llm.invoke(prompt)

聊天模型

查看使用 示例。

• 使用 Mistral-7B 进行 ChatCompletion

  from langchain_core.messages import HumanMessage
  from langchain_community.chat_models import ChatKonko
  chat_instance = ChatKonko(max_tokens=10, model = 'mistralai/mistral-7b-instruct-v0.1')
  msg = HumanMessage(content="Hi")
  chat_response = chat_instance([msg])

如需进一步帮助，请联系 support@konko.ai 或加入我们的 Discord。