如何加载 CSV 文件
逗号分隔值 (CSV) 文件是一种分隔文本文件,使用逗号分隔值。文件的每一行都是一个数据记录。每个记录由一个或多个字段组成,字段之间用逗号分隔。
LangChain 实现了 CSV 加载器,它会将 CSV 文件加载到 Document 对象序列中。CSV 文件的每一行都被转换为一个文档。
from langchain_community.document_loaders.csv_loader import CSVLoader
file_path = "../integrations/document_loaders/example_data/mlb_teams_2012.csv"
loader = CSVLoader(file_path=file_path)
data = loader.load()
for record in data[:2]:
print(record)
API 参考:CSVLoader
page_content='Team: Nationals\n"Payroll (millions)": 81.34\n"Wins": 98' metadata={'source': '../../../docs/integrations/document_loaders/example_data/mlb_teams_2012.csv', 'row': 0}
page_content='Team: Reds\n"Payroll (millions)": 82.20\n"Wins": 97' metadata={'source': '../../../docs/integrations/document_loaders/example_data/mlb_teams_2012.csv', 'row': 1}
自定义 CSV 解析和加载
CSVLoader
将接受 csv_args
kwarg,它支持自定义传递给 Python 的 csv.DictReader
的参数。有关支持哪些 csv 参数的更多信息,请参阅 csv 模块 文档。
loader = CSVLoader(
file_path=file_path,
csv_args={
"delimiter": ",",
"quotechar": '"',
"fieldnames": ["MLB Team", "Payroll in millions", "Wins"],
},
)
data = loader.load()
for record in data[:2]:
print(record)
page_content='MLB Team: Team\nPayroll in millions: "Payroll (millions)"\nWins: "Wins"' metadata={'source': '../../../docs/integrations/document_loaders/example_data/mlb_teams_2012.csv', 'row': 0}
page_content='MLB Team: Nationals\nPayroll in millions: 81.34\nWins: 98' metadata={'source': '../../../docs/integrations/document_loaders/example_data/mlb_teams_2012.csv', 'row': 1}
指定一列来标识文档来源
可以使用 CSV 的一列来设置 Document 元数据上的 "source"
键。使用 source_column
参数来指定从每一行创建的文档的来源。否则,file_path
将用作从 CSV 文件创建的所有文档的来源。
当使用从 CSV 文件加载的文档进行使用来源回答问题的链时,这非常有用。
loader = CSVLoader(file_path=file_path, source_column="Team")
data = loader.load()
for record in data[:2]:
print(record)
page_content='Team: Nationals\n"Payroll (millions)": 81.34\n"Wins": 98' metadata={'source': 'Nationals', 'row': 0}
page_content='Team: Reds\n"Payroll (millions)": 82.20\n"Wins": 97' metadata={'source': 'Reds', 'row': 1}
从字符串加载
当直接处理 CSV 字符串时,可以使用 Python 的 tempfile
。
import tempfile
from io import StringIO
string_data = """
"Team", "Payroll (millions)", "Wins"
"Nationals", 81.34, 98
"Reds", 82.20, 97
"Yankees", 197.96, 95
"Giants", 117.62, 94
""".strip()
with tempfile.NamedTemporaryFile(delete=False, mode="w+") as temp_file:
temp_file.write(string_data)
temp_file_path = temp_file.name
loader = CSVLoader(file_path=temp_file_path)
data = loader.load()
for record in data[:2]:
print(record)
page_content='Team: Nationals\n"Payroll (millions)": 81.34\n"Wins": 98' metadata={'source': 'Nationals', 'row': 0}
page_content='Team: Reds\n"Payroll (millions)": 82.20\n"Wins": 97' metadata={'source': 'Reds', 'row': 1}