跳到主要内容
Open on GitHub

Momento

Momento Cache 是世界上首个真正的无服务器缓存服务，提供即时弹性、扩展到零的能力和闪电般快速的性能。

Momento Vector Index 以其最高效、最易用、完全无服务器的向量索引而脱颖而出。

对于这两项服务，只需获取 SDK，获取 API 密钥，在代码中输入几行，即可开始使用。它们共同为您的 LLM 数据需求提供全面的解决方案。

此页面介绍如何在 LangChain 中使用 Momento 生态系统。

安装和设置​

  • 在此处注册免费帐户以获取 API 密钥
  • 使用 pip install momento 安装 Momento Python SDK

缓存​

将 Momento 用作无服务器、分布式、低延迟的缓存，用于 LLM 提示和响应。标准缓存是 Momento 用户在任何环境中的主要用例。

要将 Momento Cache 集成到您的应用程序中

from langchain.cache import MomentoCache
API 参考：MomentoCache

然后，使用以下代码进行设置

from datetime import timedelta
from momento import CacheClient, Configurations, CredentialProvider
from langchain.globals import set_llm_cache

# Instantiate the Momento client
cache_client = CacheClient(
    Configurations.Laptop.v1(),
    CredentialProvider.from_environment_variable("MOMENTO_API_KEY"),
    default_ttl=timedelta(days=1))

# Choose a Momento cache name of your choice
cache_name = "langchain"

# Instantiate the LLM cache
set_llm_cache(MomentoCache(cache_client, cache_name))
API 参考：set_llm_cache

内存​

Momento 可以用作 LLM 的分布式内存存储。

请参阅此 notebook，了解如何使用 Momento 作为聊天消息历史记录的内存存储的演练。

from langchain.memory import MomentoChatMessageHistory

向量存储​

Momento Vector Index (MVI) 可以用作向量存储。

请参阅此 notebook，了解如何使用 MVI 作为向量存储的演练。

from langchain_community.vectorstores import MomentoVectorIndex
API 参考：MomentoVectorIndex

此页面是否对您有帮助？