聊天记录
聊天记录是用户和聊天模型之间对话的记录。它用于在整个对话过程中维护上下文和状态。聊天记录是 消息 的序列,每条消息都与特定的 角色 相关联,例如“用户”、“助手”、“系统”或“工具”。
对话模式
大多数对话都以 系统消息 开头,该消息设置对话的上下文。 紧随其后的是包含用户输入的 用户消息,然后是包含模型响应的 助手消息。
助手 可以直接回复用户,或者如果配置了工具,则请求调用 工具 来执行特定任务。
完整的对话通常涉及两种交替消息模式的组合
- 代表来回对话的 用户 和 助手。
- 代表 “代理”工作流 的 助手 和 工具消息,其中助手调用工具来执行特定任务。
管理聊天记录
由于聊天模型对输入大小有限制,因此管理聊天记录并在需要时修剪它是很重要的,以避免超出 上下文窗口。
在处理聊天记录时,保持正确的对话结构至关重要。
管理聊天记录的关键准则
- 对话应遵循以下结构之一
- 第一条消息是“用户”消息或“系统”消息,后跟“用户”消息,然后是“助手”消息。
- 最后一条消息应为“用户”消息或包含工具调用结果的“工具”消息。
- 当使用 工具调用 时,“工具”消息应仅跟随请求工具调用的“助手”消息。
提示
理解正确的对话结构对于正确实现聊天模型中的 记忆 至关重要。