MediaWikiDump
MediaWiki XML Dump 包含 wiki 的内容(带有所有修订版本的 wiki 页面),但不包含站点相关数据。XML dump 不会创建 wiki 数据库的完整备份,dump 不包含用户帐户、图像、编辑日志等。
安装和设置
我们需要安装几个 Python 包。
mediawiki-utilities
在未合并的分支中支持 XML schema 0.11。
pip install -qU git+https://github.com/mediawiki-utilities/python-mwtypes@updates_schema_0.11
mediawiki-utilities mwxml
有一个错误,修复 PR 正在等待中。
pip install -qU git+https://github.com/gdedrouas/python-mwxml@xml_format_0.11
pip install -qU mwparserfromhell
文档加载器
请参阅使用示例。
from langchain_community.document_loaders import MWDumpLoader
API 参考:MWDumpLoader