MLflow
MLflow 是一个通用的开源平台,用于管理机器学习和生成式人工智能生命周期中的工作流程和工件。它内置了与许多流行的 AI 和 ML 库的集成,但可以与任何库、算法或部署工具一起使用。
MLflow 的 LangChain 集成 提供了以下功能
- 追踪:只需一行代码 (
mlflow.langchain.autolog()
) 即可可视化数据流经 LangChain 组件的过程 - 实验跟踪:记录 LangChain 运行中的工件、代码和指标
- 模型管理:对 LangChain 应用程序进行版本控制和部署,并进行依赖项跟踪
- 评估:衡量 LangChain 应用程序的性能
注意:MLflow 追踪在 MLflow 2.14.0 及更高版本中可用。
本简短指南侧重于 MLflow 针对 LangChain 和 LangGraph 应用程序的追踪功能。您将看到如何通过一行代码启用追踪,并查看应用程序的执行流程。有关 MLflow 其他功能的信息以及探索更多教程,请参阅 MLflow LangChain 文档。如果您是 MLflow 的新手,请查看 MLflow 入门 指南。
设置
要开始使用 MLflow 追踪 LangChain,请安装 MLflow Python 包。我们还将使用 langchain-openai
包。
%pip install mlflow langchain-openai langgraph -qU
接下来,设置 MLflow 追踪 URI 和 OpenAI API 密钥。
import os
# Set MLflow tracking URI if you have MLflow Tracking Server running
os.environ["MLFLOW_TRACKING_URI"] = ""
os.environ["OPENAI_API_KEY"] = ""
MLflow 追踪
MLflow 的追踪功能可帮助您可视化 LangChain 应用程序的执行流程。以下是如何启用它。
import mlflow
# Optional: Set an experiment to organize your traces
mlflow.set_experiment("LangChain MLflow Integration")
# Enable tracing
mlflow.langchain.autolog()
示例:追踪 LangChain 应用程序
这是一个完整的示例,展示了 LangChain 的 MLflow 追踪
import mlflow
from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI
# Enable MLflow tracing
mlflow.langchain.autolog()
# Create a simple chain
llm = ChatOpenAI(model_name="gpt-4o")
prompt = ChatPromptTemplate.from_messages(
[
(
"system",
"You are a helpful assistant that translates {input_language} to {output_language}.",
),
("human", "{input}"),
]
)
chain = prompt | llm | StrOutputParser()
# Run the chain
result = chain.invoke(
{
"input_language": "English",
"output_language": "German",
"input": "I love programming.",
}
)
要查看追踪,请在终端中运行 mlflow ui
,然后导航到 MLflow UI 中的 Traces 选项卡。
示例:追踪 LangGraph 应用程序
MLflow 还支持追踪 LangGraph 应用程序
import mlflow
from langchain_core.tools import tool
from langgraph.prebuilt import create_react_agent
# Enable MLflow tracing
mlflow.langchain.autolog()
# Define a tool
@tool
def count_words(text: str) -> str:
"""Counts the number of words in a text."""
word_count = len(text.split())
return f"This text contains {word_count} words."
# Create a LangGraph agent
llm = ChatOpenAI(model="gpt-4o")
tools = [count_words]
graph = create_react_agent(llm, tools)
# Run the agent
result = graph.invoke(
{"messages": [{"role": "user", "content": "Write me a 71-word story about a cat."}]}
)
API 参考:tool | create_react_agent
要查看追踪,请在终端中运行 mlflow ui
,然后导航到 MLflow UI 中的 Traces 选项卡。
资源
有关将 MLflow 与 LangChain 结合使用的更多信息,请访问