跳轉到內容

模式與模型選型技巧

來自實戰的選型技巧:什麼時候用 Agentic Chat、什麼時候換大模型、什麼時候把計算從模型手裡拿走。選型選對了事半功倍;選錯了,再怎麼調提示詞都救不回來。本篇持續補充。(RAG 檢索範式已獨立成篇,見 RAG 檢索範式技巧;搜 Skill 擴充套件能力已獨立成篇,見 用 Skill 快速擴充套件 Agent 能力)

技巧一:傻瓜化搭建 Agent,首選 Agentic Chat 模式

場景:想快速搭一個能用的 Agent,不想學畫布、連節點。

Agentic Chat 相當於 Chatflow 的輕量版:不用編排畫布,配好提示詞、掛上工具即可執行,由模型自主決定呼叫哪個工具、怎麼組織回答。

Agentic ChatChatflow
搭建方式配置式 (提示詞 + 工具)畫布編排 (節點 + 連線)
上手成本分鐘級需理解節點、變數、連線
流程控制模型自主決定每一步確定、可控
適合快速驗證想法、通用問答 + 工具呼叫多分支路由、精確資料流、生產級場景

判斷標準:先用 Agentic Chat 跑通需求;當你發現需要「固定的分支邏輯」「精確控制每一步做什麼」時,再遷移到 Chatflow。

技巧二:小引數模型與大引數模型的選擇

小引數模型成本低、速度快,但效果有上限;大引數模型更準,但更貴、更慢。兩個來自金融實戰的訊號,幫你判斷什麼時候必須上大模型:

訊號 1:金融實體識別不準。 真實案例:識別標的所屬市場 (判斷一個標的屬於美股/港股/A 股),小引數模型識別經常不準,大引數模型明顯更可靠。涉及金融實體 (標的、市場、幣種) 識別的環節,建議直接用大引數模型。

訊號 2:複雜 Agent Loop 跑不完。 當 Agent 需要多步迴圈呼叫工具,出現「輸出資訊不完整」「任務中途跑不完」時,往往不是提示詞的問題,而是模型能力不足 —— 換當前最強的大引數模型,問題常常直接消失。

成本策略:分層用模型 —— 分類、格式化等簡單環節用小模型省成本;實體識別、多步推理、Agent Loop 的主力節點用大模型保效果。

技巧三:大數據量計算,讓程式碼算,別讓模型算

場景:計算 MACD 等技術指標,需要對大量 K 線資料做數值計算。

大模型本身不擅長大數據量計算 —— 雖然隨著模型進步,數學能力越來越強,但讓它逐條處理成百上千根 K 線依然又慢又容易錯。關鍵認知:

  • 讓 LLM 生成一段 MACD 計算指令碼:很快
  • 讓 LLM 逐條生成/搬運 K 線資料:非常慢,因為所有資料都要過一遍模型上下文

推薦做法:不用 Agentic 模式,改用 Chatflow 編排,讓資料繞開模型:

Start ─▶ Tool(獲取 K 線資料) ─▶ Code(Python 計算 MACD) ─▶ LLM(解讀結果) ─▶ Answer

K 線資料從 Tool 節點直接流向 Code 節點,不經過模型上下文;LLM 只負責最後對計算結果做解讀。計算效率大幅提升,數值也精確、可復現。

推廣:凡是「取數 → 計算 → 解讀」類需求 (技術指標、收益統計、組合歸因),都適用這個分工 —— LLM 出邏輯 (指令碼/解讀),程式碼出數字

關聯閱讀