Azure 容器应用动态会话

Azure 容器应用动态会话提供了一种安全且可扩展的方式，可在 Hyper-V 隔离的沙箱中运行 Python 代码解释器。这允许您的代理在安全环境中运行可能不受信任的代码。代码解释器环境包含许多流行的 Python 包，例如 NumPy、pandas 和 scikit-learn。有关会话工作方式的更多信息，请参阅Azure 容器应用文档。

设置

默认情况下，SessionsPythonREPLTool 工具使用 DefaultAzureCredential 来对 Azure 进行身份验证。在本地，它将使用您来自 Azure CLI 或 VS Code 的凭据。安装 Azure CLI 并使用 az login 登录以进行身份验证。

要使用代码解释器，您还需要创建一个会话池，您可以按照此处的说明进行操作。完成后，您应该拥有一个池管理会话端点，您需要在下面设置该端点。

import getpass

POOL_MANAGEMENT_ENDPOINT = getpass.getpass()

 ········

您还需要安装 langchain-azure-dynamic-sessions 包。

%pip install -qU langchain-azure-dynamic-sessions langchain-openai langchainhub langchain langchain-community

使用工具

实例化并使用工具

from langchain_azure_dynamic_sessions import SessionsPythonREPLTool

tool = SessionsPythonREPLTool(pool_management_endpoint=POOL_MANAGEMENT_ENDPOINT)
tool.invoke("6 * 7")

API 参考：SessionsPythonREPLTool

'{\n  "result": 42,\n  "stdout": "",\n  "stderr": ""\n}'

调用该工具将返回一个包含代码结果以及任何标准输出和标准错误输出的 json 字符串。要获得原始字典结果，请使用 execute() 方法。

tool.execute("6 * 7")

{'$id': '2',
 'status': 'Success',
 'stdout': '',
 'stderr': '',
 'result': 42,
 'executionTimeInMilliseconds': 8}

上传数据

如果我们想对特定数据执行计算，可以使用 upload_file() 功能将数据上传到我们的会话中。您可以通过 data: BinaryIO 参数或通过 local_file_path: str 参数（指向系统上的本地文件）上传数据。数据会自动上传到会话容器中的“/mnt/data/”目录。您可以通过 upload_file() 返回的上传元数据获取完整的文件路径。

import io
import json

data = {"important_data": [1, 10, -1541]}
binary_io = io.BytesIO(json.dumps(data).encode("ascii"))

upload_metadata = tool.upload_file(
    data=binary_io, remote_file_path="important_data.json"
)

code = f"""
import json

with open("{upload_metadata.full_path}") as f:
    data = json.load(f)

sum(data['important_data'])
"""
tool.execute(code)

{'$id': '2',
 'status': 'Success',
 'stdout': '',
 'stderr': '',
 'result': -1530,
 'executionTimeInMilliseconds': 12}

处理图片结果

动态会话结果可能包含作为 base64 编码字符串的图片输出。在这种情况下，“result”的值将是一个字典，包含键“type”（将为“image”）、“format（图片的格式）”和“base64_data”。

code = """
import numpy as np
import matplotlib.pyplot as plt

# Generate values for x from -1 to 1
x = np.linspace(-1, 1, 400)

# Calculate the sine of each x value
y = np.sin(x)

# Create the plot
plt.plot(x, y)

# Add title and labels
plt.title('Plot of sin(x) from -1 to 1')
plt.xlabel('x')
plt.ylabel('sin(x)')

# Show the plot
plt.grid(True)
plt.show()
"""

result = tool.execute(code)
result["result"].keys()

dict_keys(['type', 'format', 'base64_data'])

result["result"]["type"], result["result"]["format"]

('image', 'png')

我们可以解码图片数据并显示它。

import base64
import io

from IPython.display import display
from PIL import Image

base64_str = result["result"]["base64_data"]
img = Image.open(io.BytesIO(base64.decodebytes(bytes(base64_str, "utf-8"))))
display(img)

简单代理示例

from langchain import hub
from langchain.agents import AgentExecutor, create_tool_calling_agent
from langchain_azure_dynamic_sessions import SessionsPythonREPLTool
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(model="gpt-4o", temperature=0)
prompt = hub.pull("hwchase17/openai-functions-agent")
agent = create_tool_calling_agent(llm, [tool], prompt)

agent_executor = AgentExecutor(
    agent=agent, tools=[tool], verbose=True, handle_parsing_errors=True
)

response = agent_executor.invoke(
    {
        "input": "what's sin of pi . if it's negative generate a random number between 0 and 5. if it's positive between 5 and 10."
    }
)

API 参考：AgentExecutor | create_tool_calling_agent | SessionsPythonREPLTool | ChatOpenAI

> Entering new AgentExecutor chain...

Invoking: `Python_REPL` with `import math
import random

sin_pi = math.sin(math.pi)
result = sin_pi
if sin_pi < 0:
    random_number = random.uniform(0, 5)
elif sin_pi > 0:
    random_number = random.uniform(5, 10)
else:
    random_number = 0

{'sin_pi': sin_pi, 'random_number': random_number}`


{
  "result": "{'sin_pi': 1.2246467991473532e-16, 'random_number': 9.68032501928628}",
  "stdout": "",
  "stderr": ""
}The sine of \(\pi\) is approximately \(1.2246467991473532 \times 10^{-16}\), which is effectively zero. Since it is neither negative nor positive, the random number generated is \(0\).

> Finished chain.

LangGraph 数据分析师代理

有关更复杂的代理示例，请查看 LangGraph 数据分析师示例 https://github.com/langchain-ai/langchain/blob/master/cookbook/azure_container_apps_dynamic_sessions_data_analyst.ipynb

相关

• 工具 概念指南
• 工具 操作指南