提示模板
提示模板有助于将用户输入和参数转换为语言模型的指令。这可以用来指导模型的响应,帮助它理解上下文并生成相关且连贯的基于语言的输出。
提示模板接受一个字典作为输入,其中每个键表示提示模板中要填充的变量。
提示模板输出一个 PromptValue。此 PromptValue 可以传递给 LLM 或 ChatModel,也可以转换为字符串或消息列表。之所以存在此 PromptValue,是为了便于在字符串和消息之间切换。
有几种不同类型的提示模板
字符串提示模板
这些提示模板用于格式化单个字符串,通常用于较简单的输入。例如,一种常见的构建和使用 PromptTemplate 的方法如下
from langchain_core.prompts import PromptTemplate
prompt_template = PromptTemplate.from_template("Tell me a joke about {topic}")
prompt_template.invoke({"topic": "cats"})
聊天提示模板
这些提示模板用于格式化消息列表。这些“模板”本身由模板列表组成。例如,一种常见的构建和使用 ChatPromptTemplate 的方法如下
from langchain_core.prompts import ChatPromptTemplate
prompt_template = ChatPromptTemplate([
("system", "You are a helpful assistant"),
("user", "Tell me a joke about {topic}")
])
prompt_template.invoke({"topic": "cats"})
在上面的示例中,当调用此 ChatPromptTemplate 时,它将构建两条消息。第一条是系统消息,没有需要格式化的变量。第二条是 HumanMessage,将由用户传入的 topic
变量进行格式化。
MessagesPlaceholder
此提示模板负责在特定位置添加消息列表。在上面的 ChatPromptTemplate 中,我们看到了如何格式化两条消息,每条消息都是一个字符串。但是,如果我们希望用户传入一个消息列表,并将它们插入到特定的位置,该怎么办呢? 这就是使用 MessagesPlaceholder 的方法。
from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder
from langchain_core.messages import HumanMessage
prompt_template = ChatPromptTemplate([
("system", "You are a helpful assistant"),
MessagesPlaceholder("msgs")
])
prompt_template.invoke({"msgs": [HumanMessage(content="hi!")]})
这将生成一个包含两条消息的列表,第一条是系统消息,第二条是我们传入的 HumanMessage。 如果我们传入 5 条消息,那么总共会生成 6 条消息(系统消息加上传入的 5 条消息)。这对于将消息列表插入到特定位置非常有用。
另一种无需显式使用 MessagesPlaceholder
类即可实现相同功能的方法是
prompt_template = ChatPromptTemplate([
("system", "You are a helpful assistant"),
("placeholder", "{msgs}") # <-- This is the changed part
])
有关如何使用提示模板的详细信息,请参阅此处的相关操作指南。