跳转到内容

上下文与记忆管理

是什么

让多轮对话中的信息在节点之间、轮次之间正确流动的一套机制。解决两个问题:Agent 记不住上文(需要记忆) 和上下文越积越大(需要压缩)。

上下文的使用

  • Agent 节点:打开短期记忆开关后,支持通过短期记忆使用历史会话的上下文
  • LLM 节点:在上下文菜单中选择变量作为上下文后即可使用;也可以读取短期记忆中的上下文

上下文的生成

  • Agent 节点使用上下文后,会自动把工具返回的内容压缩进入上下文 —— 工具查到的数据不会在下一轮丢失
  • LLM 节点选择上下文内容后,支持上下文的输出;输出后的上下文可供后续节点引用

上下文的保存

  • Chatflow 在输出时,支持选择上下文变量保存到短期记忆
  • 每一轮会话保存自己的上下文信息

上下文压缩

  • Agent 节点通过开关开启上下文压缩功能
  • 当上下文超过一定量时自动压缩:压缩后,本轮会话的上下文包含之前所有轮次的上下文信息,同时历史轮次的原始上下文自动清除 —— 信息保留、体积可控

缓存

  • 开启缓存时有二次确认弹窗告知风险 (缓存可能返回过时结果)
  • Agentic Chat 模式禁用缓存配置

使用建议

  1. 记忆窗口开够用的最小值:窗口过大费 token、易被历史带偏,见 提示词技巧
  2. 上下文压缩本身消耗用量 (承担方与对话运行一致),长对话场景在成本估算中计入,见 Workspace 与套餐体系
  3. LLM 节点配置了上下文但提示词中没插入对应变量会报错"请在提示中填写上下文变量",见 变量与数据流

关联阅读