Git
Git 是一种分布式版本控制系统,用于跟踪任何一组计算机文件的更改,通常用于在软件开发过程中协作开发源代码的程序员之间协调工作。
此笔记本展示了如何从 Git
存储库加载文本文件。
从磁盘加载现有存储库
%pip install --upgrade --quiet GitPython
from git import Repo
repo = Repo.clone_from(
"https://github.com/langchain-ai/langchain", to_path="./example_data/test_repo1"
)
branch = repo.head.reference
from langchain_community.document_loaders import GitLoader
API 参考:GitLoader
loader = GitLoader(repo_path="./example_data/test_repo1/", branch=branch)
data = loader.load()
len(data)
print(data[0])
page_content='.venv\n.github\n.git\n.mypy_cache\n.pytest_cache\nDockerfile' metadata={'file_path': '.dockerignore', 'file_name': '.dockerignore', 'file_type': ''}
从 URL 克隆存储库
from langchain_community.document_loaders import GitLoader
API 参考:GitLoader
loader = GitLoader(
clone_url="https://github.com/langchain-ai/langchain",
repo_path="./example_data/test_repo2/",
branch="master",
)
data = loader.load()
len(data)
1074
筛选要加载的文件
from langchain_community.document_loaders import GitLoader
# e.g. loading only python files
loader = GitLoader(
repo_path="./example_data/test_repo1/",
file_filter=lambda file_path: file_path.endswith(".py"),
)
API 参考:GitLoader