跳到主要内容
Open on GitHub

聊天记录

聊天记录是用户和聊天模型之间对话的记录。它用于在整个对话过程中维护上下文和状态。聊天记录是 消息 的序列,每条消息都与特定的 角色 相关联,例如“用户”、“助手”、“系统”或“工具”。

对话模式

Conversation patterns

大多数对话都以 系统消息 开头,该消息设置对话的上下文。 紧随其后的是包含用户输入的 用户消息,然后是包含模型响应的 助手消息

助手 可以直接回复用户,或者如果配置了工具,则请求调用 工具 来执行特定任务。

完整的对话通常涉及两种交替消息模式的组合

  1. 代表来回对话的 用户助手
  2. 代表 “代理”工作流助手工具消息,其中助手调用工具来执行特定任务。

管理聊天记录

由于聊天模型对输入大小有限制,因此管理聊天记录并在需要时修剪它是很重要的,以避免超出 上下文窗口

在处理聊天记录时,保持正确的对话结构至关重要。

管理聊天记录的关键准则

  • 对话应遵循以下结构之一
    • 第一条消息是“用户”消息或“系统”消息,后跟“用户”消息,然后是“助手”消息。
    • 最后一条消息应为“用户”消息或包含工具调用结果的“工具”消息。
  • 当使用 工具调用 时,“工具”消息应仅跟随请求工具调用的“助手”消息。
提示

理解正确的对话结构对于正确实现聊天模型中的 记忆 至关重要。


此页面是否对您有帮助?