Google 云端硬盘
本笔记本涵盖了如何从 Google Drive
中检索文档。
先决条件
- 创建一个 Google Cloud 项目或使用现有项目
- 启用 Google Drive API
- 为桌面应用授权凭据
pip install --upgrade google-api-python-client google-auth-httplib2 google-auth-oauthlib
检索 Google 文档
默认情况下,GoogleDriveRetriever
期望 credentials.json
文件位于 ~/.credentials/credentials.json
,但这可以使用 GOOGLE_ACCOUNT_FILE
环境变量进行配置。token.json
的位置使用相同的目录(或使用参数 token_path
)。请注意,token.json
将在您第一次使用检索器时自动创建。
GoogleDriveRetriever
可以通过一些请求检索选择的文件。
默认情况下,如果您使用 folder_id
,则可以检索此文件夹内的所有文件到 Document
。
您可以从 URL 获取文件夹和文档 ID
- 文件夹:https://drive.google.com/drive/u/0/folders/1yucgL9WGgWZdM1TOuKkeghlPizuzMYb5 -> 文件夹 ID 为
"1yucgL9WGgWZdM1TOuKkeghlPizuzMYb5"
- 文档:https://docs.google.com/document/d/1bfaMQ18_i56204VaQDVeAFpqEijJTgvurupdEDiaUQw/edit -> 文档 ID 为
"1bfaMQ18_i56204VaQDVeAFpqEijJTgvurupdEDiaUQw"
特殊值 root
用于您的个人主目录。
from langchain_googledrive.retrievers import GoogleDriveRetriever
folder_id = "root"
# folder_id='1yucgL9WGgWZdM1TOuKkeghlPizuzMYb5'
retriever = GoogleDriveRetriever(
num_results=2,
)
默认情况下,可以将具有以下 MIME 类型的所有文件转换为 Document
。
text/text
text/plain
text/html
text/csv
text/markdown
image/png
image/jpeg
application/epub+zip
application/pdf
application/rtf
application/vnd.google-apps.document
(GDoc)application/vnd.google-apps.presentation
(GSlide)application/vnd.google-apps.spreadsheet
(GSheet)application/vnd.google.colaboratory
(Notebook colab)application/vnd.openxmlformats-officedocument.presentationml.presentation
(PPTX)application/vnd.openxmlformats-officedocument.wordprocessingml.document
(DOCX)
可以更新或自定义此设置。请参阅 GoogleDriveRetriever
的文档。
但是,必须安装相应的软件包。
%pip install --upgrade --quiet unstructured
retriever.invoke("machine learning")
您可以自定义选择文件的条件。提出了一组预定义的过滤器
模板 | 描述 |
---|---|
gdrive-all-in-folder | 从 folder_id 返回所有兼容文件 |
gdrive-query | 在所有驱动器中搜索 query |
gdrive-by-name | 搜索名称为 query 的文件 |
gdrive-query-in-folder | 在 folder_id (和子文件夹,如果 _recursive=true )中搜索 query |
gdrive-mime-type | 搜索特定的 mime_type |
gdrive-mime-type-in-folder | 在 folder_id 中搜索特定的 mime_type |
gdrive-query-with-mime-type | 搜索具有特定 mime_type 的 query |
gdrive-query-with-mime-type-and-folder | 在 folder_id 中搜索具有特定 mime_type 的 query |
retriever = GoogleDriveRetriever(
template="gdrive-query", # Search everywhere
num_results=2, # But take only 2 documents
)
for doc in retriever.invoke("machine learning"):
print("---")
print(doc.page_content.strip()[:60] + "...")
或者,您可以使用专门的 PromptTemplate
自定义提示
from langchain_core.prompts import PromptTemplate
retriever = GoogleDriveRetriever(
template=PromptTemplate(
input_variables=["query"],
# See https://developers.google.com/drive/api/guides/search-files
template="(fullText contains '{query}') "
"and mimeType='application/vnd.google-apps.document' "
"and modifiedTime > '2000-01-01T00:00:00' "
"and trashed=false",
),
num_results=2,
# See https://developers.google.com/drive/api/v3/reference/files/list
includeItemsFromAllDrives=False,
supportsAllDrives=False,
)
for doc in retriever.invoke("machine learning"):
print(f"{doc.metadata['name']}:")
print("---")
print(doc.page_content.strip()[:60] + "...")
API 参考:PromptTemplate
使用 Google Drive “描述”元数据
每个 Google Drive 的元数据中都有一个 description
字段(请参阅文件的详细信息)。使用 snippets
模式返回所选文件的描述。
retriever = GoogleDriveRetriever(
template="gdrive-mime-type-in-folder",
folder_id=folder_id,
mime_type="application/vnd.google-apps.document", # Only Google Docs
num_results=2,
mode="snippets",
includeItemsFromAllDrives=False,
supportsAllDrives=False,
)
retriever.invoke("machine learning")