GreenNode
GreenNode 是一家全球性 AI 解决方案提供商,也是 NVIDIA 优选合作伙伴,为美国、中东和非洲、亚太地区的企业提供从基础设施到应用的全面 AI 能力。GreenNode 凭借世界级基础设施(LEED Gold、TIA‑942、Uptime Tier III),为企业、初创公司和研究人员提供全面的 AI 服务套件。
- 强大的 AI 基础设施:作为亚太地区首批超大规模 AI 集群之一,GreenNode 的基础设施由 NVIDIA H100 GPU 提供支持,针对高吞吐量机器学习和深度学习工作负载进行了优化。
- GreenNode AI 平台:GreenNode 的自助式 AI 平台专为技术团队设计,可快速部署预配置优化计算实例的 Jupyter notebook 环境。开发者可从该门户启动机器学习训练、微调、超参数优化和推理工作流,且设置时间极短。该平台提供 100 多个精选开源模型,并支持与常见 MLOps 工具和存储框架集成。
- GreenNode 无服务器 AI:GreenNode 无服务器 AI 提供一个包含预训练生产就绪模型库,涵盖文本生成、代码生成、文本转语音、语音转文本、嵌入和重排序模型等领域。该服务非常适合希望在不管理模型基础设施的情况下,进行 AI 解决方案原型开发或部署的团队。
- AI 应用:从智能数据管理和文档处理 (IDP) 到智能视频分析,GreenNode 支持大规模的实际 AI 用例。无论您是构建下一个 LLM 工作流、扩展 AI 研究还是部署企业级应用,GreenNode 都提供工具和基础设施来加速您的旅程。
安装与设置
GreenNode 集成可以通过 pip 安装
%pip install -qU langchain-greennode
Note: you may need to restart the kernel to use updated packages.
API 密钥
要使用 GreenNode 无服务器 AI,您需要一个 API 密钥,该密钥可从 GreenNode 无服务器 AI 获取。API 密钥可以作为初始化参数 api_key
传入,或设置为环境变量 GREENNODE_API_KEY
。
import getpass
import os
if not os.getenv("GREENNODE_API_KEY"):
os.environ["GREENNODE_API_KEY"] = getpass.getpass("Enter your GreenNode API key: ")
聊天模型
from langchain_greennode import ChatGreenNode
chat = ChatGreenNode(
model="deepseek-ai/DeepSeek-R1-Distill-Qwen-32B", # Choose from available models
temperature=0.6,
top_p=0.95,
)
GreenNode 对话模型的使用
嵌入模型
from langchain_greennode import GreenNodeEmbeddings
# Initialize embeddings
embeddings = GreenNodeEmbeddings(
model="BAAI/bge-m3" # Choose from available models
)
GreenNode 嵌入模型的使用
重排序
from langchain_greennode import GreenNodeRerank
# Initialize reranker
rerank = GreenNodeRerank(
model="BAAI/bge-reranker-v2-m3", # Choose from available models
top_n=-1,
)
GreenNode 重排序模型的使用