跳到主要内容
Open In ColabOpen on GitHub

MLflow

MLflow 是一个通用的开源平台,用于管理机器学习和生成式人工智能生命周期中的工作流程和工件。它内置了与许多流行的 AI 和 ML 库的集成,但可以与任何库、算法或部署工具一起使用。

MLflow 的 LangChain 集成 提供了以下功能

  • 追踪:只需一行代码 (mlflow.langchain.autolog()) 即可可视化数据流经 LangChain 组件的过程
  • 实验跟踪:记录 LangChain 运行中的工件、代码和指标
  • 模型管理:对 LangChain 应用程序进行版本控制和部署,并进行依赖项跟踪
  • 评估:衡量 LangChain 应用程序的性能

注意:MLflow 追踪在 MLflow 2.14.0 及更高版本中可用。

本简短指南侧重于 MLflow 针对 LangChain 和 LangGraph 应用程序的追踪功能。您将看到如何通过一行代码启用追踪,并查看应用程序的执行流程。有关 MLflow 其他功能的信息以及探索更多教程,请参阅 MLflow LangChain 文档。如果您是 MLflow 的新手,请查看 MLflow 入门 指南。

设置

要开始使用 MLflow 追踪 LangChain,请安装 MLflow Python 包。我们还将使用 langchain-openai 包。

%pip install mlflow langchain-openai langgraph -qU

接下来,设置 MLflow 追踪 URI 和 OpenAI API 密钥。

import os

# Set MLflow tracking URI if you have MLflow Tracking Server running
os.environ["MLFLOW_TRACKING_URI"] = ""
os.environ["OPENAI_API_KEY"] = ""

MLflow 追踪

MLflow 的追踪功能可帮助您可视化 LangChain 应用程序的执行流程。以下是如何启用它。

import mlflow

# Optional: Set an experiment to organize your traces
mlflow.set_experiment("LangChain MLflow Integration")

# Enable tracing
mlflow.langchain.autolog()

示例:追踪 LangChain 应用程序

这是一个完整的示例,展示了 LangChain 的 MLflow 追踪

import mlflow
from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI

# Enable MLflow tracing
mlflow.langchain.autolog()

# Create a simple chain
llm = ChatOpenAI(model_name="gpt-4o")

prompt = ChatPromptTemplate.from_messages(
[
(
"system",
"You are a helpful assistant that translates {input_language} to {output_language}.",
),
("human", "{input}"),
]
)

chain = prompt | llm | StrOutputParser()

# Run the chain
result = chain.invoke(
{
"input_language": "English",
"output_language": "German",
"input": "I love programming.",
}
)

要查看追踪,请在终端中运行 mlflow ui,然后导航到 MLflow UI 中的 Traces 选项卡。

示例:追踪 LangGraph 应用程序

MLflow 还支持追踪 LangGraph 应用程序

import mlflow
from langchain_core.tools import tool
from langgraph.prebuilt import create_react_agent

# Enable MLflow tracing
mlflow.langchain.autolog()


# Define a tool
@tool
def count_words(text: str) -> str:
"""Counts the number of words in a text."""
word_count = len(text.split())
return f"This text contains {word_count} words."


# Create a LangGraph agent
llm = ChatOpenAI(model="gpt-4o")
tools = [count_words]
graph = create_react_agent(llm, tools)

# Run the agent
result = graph.invoke(
{"messages": [{"role": "user", "content": "Write me a 71-word story about a cat."}]}
)
API 参考:tool | create_react_agent

要查看追踪,请在终端中运行 mlflow ui,然后导航到 MLflow UI 中的 Traces 选项卡。

资源

有关将 MLflow 与 LangChain 结合使用的更多信息,请访问


此页是否对您有帮助?