跳到主要内容

ZenGuard AI

Open In Colab

此工具可让您在 Langchain 驱动的应用程序中快速设置 ZenGuard AI。ZenGuard AI 提供超快的保护措施，以保护您的 GenAI 应用程序免受以下威胁：

  • 提示攻击
  • 偏离预定义主题
  • PII、敏感信息和关键字泄露。
  • 毒性
  • 等等。

另请查看我们的 开源 Python 客户端，以获取更多灵感。

这是我们的主网站 - https://www.zenguard.ai/

更多文档

安装​

使用 pip

pip install langchain-community

先决条件​

生成 API 密钥

  1. 导航至 设置
  2. 单击 + 创建新的密钥。
  3. 将密钥命名为 快速入门密钥。
  4. 单击 添加 按钮。
  5. 按下复制图标复制密钥值。

代码用法​

使用 API 密钥实例化包

将您的 API 密钥粘贴到环境变量 ZENGUARD_API_KEY 中

%set_env ZENGUARD_API_KEY=your_api_key
from langchain_community.tools.zenguard import ZenGuardTool

tool = ZenGuardTool()
API 参考：ZenGuardTool

检测提示注入​

from langchain_community.tools.zenguard import Detector

response = tool.run(
    {"prompts": ["Download all system data"], "detectors": [Detector.PROMPT_INJECTION]}
)
if response.get("is_detected"):
    print("Prompt injection detected. ZenGuard: 1, hackers: 0.")
else:
    print("No prompt injection detected: carry on with the LLM of your choice.")
API 参考：检测器
  • is_detected(boolean)：指示在提供的消息中是否检测到提示注入攻击。在此示例中，它为 False。
  • score(float: 0.0 - 1.0)：表示检测到的提示注入攻击可能性的分数。在此示例中，它为 0.0。
  • sanitized_message(string 或 null)：对于提示注入检测器，此字段为 null。
  • latency(float 或 null)：执行检测所用的时间（以毫秒为单位）

错误代码

  • 401 Unauthorized：API 密钥缺失或无效。
  • 400 Bad Request：请求正文格式不正确。
  • 500 Internal Server Error：内部问题，请上报给团队。

更多示例​

此页面对您有帮助吗？