跳轉到內容

上下文與記憶管理

是什麼

讓多輪對話中的資訊在節點之間、輪次之間正確流動的一套機制。解決兩個問題:Agent 記不住上文(需要記憶) 和上下文越積越大(需要壓縮)。

上下文的使用

  • Agent 節點:開啟短期記憶開關後,支援通過短期記憶使用歷史會話的上下文
  • LLM 節點:在上下文選單中選擇變數作為上下文後即可使用;也可以讀取短期記憶中的上下文

上下文的生成

  • Agent 節點使用上下文後,會自動把工具返回的內容壓縮排入上下文 —— 工具查到的資料不會在下一輪丟失
  • LLM 節點選擇上下文內容後,支援上下文的輸出;輸出後的上下文可供後續節點引用

上下文的儲存

  • Chatflow 在輸出時,支援選擇上下文變數儲存到短期記憶
  • 每一輪會話儲存自己的上下文資訊

上下文壓縮

  • Agent 節點通過開關開啟上下文壓縮功能
  • 當上下文超過一定量時自動壓縮:壓縮後,本輪會話的上下文包含之前所有輪次的上下文資訊,同時歷史輪次的原始上下文自動清除 —— 資訊保留、體積可控

快取

  • 開啟快取時有二次確認彈窗告知風險 (快取可能返回過時結果)
  • Agentic Chat 模式停用快取配置

使用建議

  1. 記憶視窗開夠用的最小值:視窗過大費 token、易被歷史帶偏,見 提示詞技巧
  2. 上下文壓縮本身消耗用量 (承擔方與對話執行一致),長對話場景在成本估算中計入,見 Workspace 與套餐體系
  3. LLM 節點配置了上下文但提示詞中沒插入對應變數會報錯"請在提示中填寫上下文變數",見 變數與資料流

關聯閱讀