模式與模型選型技巧
來自實戰的選型技巧:什麼時候用 Agentic Chat、什麼時候換大模型、什麼時候把計算從模型手裡拿走。選型選對了事半功倍;選錯了,再怎麼調提示詞都救不回來。本篇持續補充。(RAG 檢索範式已獨立成篇,見 RAG 檢索範式技巧;搜 Skill 擴充套件能力已獨立成篇,見 用 Skill 快速擴充套件 Agent 能力)
技巧一:傻瓜化搭建 Agent,首選 Agentic Chat 模式
場景:想快速搭一個能用的 Agent,不想學畫布、連節點。
Agentic Chat 相當於 Chatflow 的輕量版:不用編排畫布,配好提示詞、掛上工具即可執行,由模型自主決定呼叫哪個工具、怎麼組織回答。
| Agentic Chat | Chatflow | |
|---|---|---|
| 搭建方式 | 配置式 (提示詞 + 工具) | 畫布編排 (節點 + 連線) |
| 上手成本 | 分鐘級 | 需理解節點、變數、連線 |
| 流程控制 | 模型自主決定 | 每一步確定、可控 |
| 適合 | 快速驗證想法、通用問答 + 工具呼叫 | 多分支路由、精確資料流、生產級場景 |
判斷標準:先用 Agentic Chat 跑通需求;當你發現需要「固定的分支邏輯」「精確控制每一步做什麼」時,再遷移到 Chatflow。
技巧二:小引數模型與大引數模型的選擇
小引數模型成本低、速度快,但效果有上限;大引數模型更準,但更貴、更慢。兩個來自金融實戰的訊號,幫你判斷什麼時候必須上大模型:
訊號 1:金融實體識別不準。 真實案例:識別標的所屬市場 (判斷一個標的屬於美股/港股/A 股),小引數模型識別經常不準,大引數模型明顯更可靠。涉及金融實體 (標的、市場、幣種) 識別的環節,建議直接用大引數模型。
訊號 2:複雜 Agent Loop 跑不完。 當 Agent 需要多步迴圈呼叫工具,出現「輸出資訊不完整」「任務中途跑不完」時,往往不是提示詞的問題,而是模型能力不足 —— 換當前最強的大引數模型,問題常常直接消失。
成本策略:分層用模型 —— 分類、格式化等簡單環節用小模型省成本;實體識別、多步推理、Agent Loop 的主力節點用大模型保效果。
技巧三:大數據量計算,讓程式碼算,別讓模型算
場景:計算 MACD 等技術指標,需要對大量 K 線資料做數值計算。
大模型本身不擅長大數據量計算 —— 雖然隨著模型進步,數學能力越來越強,但讓它逐條處理成百上千根 K 線依然又慢又容易錯。關鍵認知:
- 讓 LLM 生成一段 MACD 計算指令碼:很快
- 讓 LLM 逐條生成/搬運 K 線資料:非常慢,因為所有資料都要過一遍模型上下文
推薦做法:不用 Agentic 模式,改用 Chatflow 編排,讓資料繞開模型:
Start ─▶ Tool(獲取 K 線資料) ─▶ Code(Python 計算 MACD) ─▶ LLM(解讀結果) ─▶ AnswerK 線資料從 Tool 節點直接流向 Code 節點,不經過模型上下文;LLM 只負責最後對計算結果做解讀。計算效率大幅提升,數值也精確、可復現。
推廣:凡是「取數 → 計算 → 解讀」類需求 (技術指標、收益統計、組合歸因),都適用這個分工 —— LLM 出邏輯 (指令碼/解讀),程式碼出數字。
關聯閱讀
- 規劃與執行能力 — Agentic Chat 的能力定位
- Code 節點幫助文件 — Python/JavaScript 程式碼執行
- Tool 節點幫助文件 — 工具取數
- 流程編排模式與除錯技巧 — 模式 3「工具增強」、模式 4「自主 Agent」
- 從網上"搜 Skill" — 快速給 Agent 添置專業能力 (原技巧四)