上下文與記憶管理
是什麼
讓多輪對話中的資訊在節點之間、輪次之間正確流動的一套機制。解決兩個問題:Agent 記不住上文(需要記憶) 和上下文越積越大(需要壓縮)。
上下文的使用
- Agent 節點:開啟短期記憶開關後,支援通過短期記憶使用歷史會話的上下文
- LLM 節點:在上下文選單中選擇變數作為上下文後即可使用;也可以讀取短期記憶中的上下文
上下文的生成
- Agent 節點使用上下文後,會自動把工具返回的內容壓縮排入上下文 —— 工具查到的資料不會在下一輪丟失
- LLM 節點選擇上下文內容後,支援上下文的輸出;輸出後的上下文可供後續節點引用
上下文的儲存
- Chatflow 在輸出時,支援選擇上下文變數儲存到短期記憶
- 每一輪會話儲存自己的上下文資訊
上下文壓縮
- Agent 節點通過開關開啟上下文壓縮功能
- 當上下文超過一定量時自動壓縮:壓縮後,本輪會話的上下文包含之前所有輪次的上下文資訊,同時歷史輪次的原始上下文自動清除 —— 資訊保留、體積可控
快取
- 開啟快取時有二次確認彈窗告知風險 (快取可能返回過時結果)
- Agentic Chat 模式停用快取配置
使用建議
- 記憶視窗開夠用的最小值:視窗過大費 token、易被歷史帶偏,見 提示詞技巧
- 上下文壓縮本身消耗用量 (承擔方與對話執行一致),長對話場景在成本估算中計入,見 Workspace 與套餐體系
- LLM 節點配置了上下文但提示詞中沒插入對應變數會報錯"請在提示中填寫上下文變數",見 變數與資料流
關聯閱讀
- LLM 節點幫助文件 — 記憶功能與記憶視窗配置
- Agent 節點幫助文件