TF-IDF

TF-IDF 指的是词频乘以逆文档频率。

此笔记本介绍了如何使用一个在后台使用 TF-IDF 的检索器，使用 scikit-learn 包。

有关 TF-IDF 详细信息，请参阅 此博文。

%pip install --upgrade --quiet  scikit-learn

from langchain_community.retrievers import TFIDFRetriever

API 参考：TFIDFRetriever

使用文本创建新的检索器

retriever = TFIDFRetriever.from_texts(["foo", "bar", "world", "hello", "foo bar"])

使用文档创建新的检索器

您现在可以使用创建的文档创建新的检索器。

from langchain_core.documents import Document

retriever = TFIDFRetriever.from_documents(
    [
        Document(page_content="foo"),
        Document(page_content="bar"),
        Document(page_content="world"),
        Document(page_content="hello"),
        Document(page_content="foo bar"),
    ]
)

API 参考：Document

使用检索器

我们现在可以使用检索器了！

result = retriever.invoke("foo")

result

[Document(page_content='foo', metadata={}),
 Document(page_content='foo bar', metadata={}),
 Document(page_content='hello', metadata={}),
 Document(page_content='world', metadata={})]

保存和加载

您可以轻松保存和加载此检索器，使其方便用于本地开发！

retriever.save_local("testing.pkl")

retriever_copy = TFIDFRetriever.load_local("testing.pkl")

retriever_copy.invoke("foo")

[Document(page_content='foo', metadata={}),
 Document(page_content='foo bar', metadata={}),
 Document(page_content='hello', metadata={}),
 Document(page_content='world', metadata={})]

相关

• 检索器 概念指南
• 检索器 操作指南