跳转到内容

模式与模型选型技巧

来自实战的选型技巧:什么时候用 Agentic Chat、什么时候换大模型、什么时候把计算从模型手里拿走。选型选对了事半功倍;选错了,再怎么调提示词都救不回来。本篇持续补充。(RAG 检索范式已独立成篇,见 RAG 检索范式技巧;搜 Skill 扩展能力已独立成篇,见 用 Skill 快速扩展 Agent 能力)

技巧一:傻瓜化搭建 Agent,首选 Agentic Chat 模式

场景:想快速搭一个能用的 Agent,不想学画布、连节点。

Agentic Chat 相当于 Chatflow 的轻量版:不用编排画布,配好提示词、挂上工具即可运行,由模型自主决定调用哪个工具、怎么组织回答。

Agentic ChatChatflow
搭建方式配置式 (提示词 + 工具)画布编排 (节点 + 连线)
上手成本分钟级需理解节点、变量、连线
流程控制模型自主决定每一步确定、可控
适合快速验证想法、通用问答 + 工具调用多分支路由、精确数据流、生产级场景

判断标准:先用 Agentic Chat 跑通需求;当你发现需要「固定的分支逻辑」「精确控制每一步做什么」时,再迁移到 Chatflow。

技巧二:小参数模型与大参数模型的选择

小参数模型成本低、速度快,但效果有上限;大参数模型更准,但更贵、更慢。两个来自金融实战的信号,帮你判断什么时候必须上大模型:

信号 1:金融实体识别不准。 真实案例:识别标的所属市场 (判断一个标的属于美股/港股/A 股),小参数模型识别经常不准,大参数模型明显更可靠。涉及金融实体 (标的、市场、币种) 识别的环节,建议直接用大参数模型。

信号 2:复杂 Agent Loop 跑不完。 当 Agent 需要多步循环调用工具,出现「输出信息不完整」「任务中途跑不完」时,往往不是提示词的问题,而是模型能力不足 —— 换当前最强的大参数模型,问题常常直接消失。

成本策略:分层用模型 —— 分类、格式化等简单环节用小模型省成本;实体识别、多步推理、Agent Loop 的主力节点用大模型保效果。

技巧三:大数据量计算,让代码算,别让模型算

场景:计算 MACD 等技术指标,需要对大量 K 线数据做数值计算。

大模型本身不擅长大数据量计算 —— 虽然随着模型进步,数学能力越来越强,但让它逐条处理成百上千根 K 线依然又慢又容易错。关键认知:

  • 让 LLM 生成一段 MACD 计算脚本:很快
  • 让 LLM 逐条生成/搬运 K 线数据:非常慢,因为所有数据都要过一遍模型上下文

推荐做法:不用 Agentic 模式,改用 Chatflow 编排,让数据绕开模型:

Start ─▶ Tool(获取 K 线数据) ─▶ Code(Python 计算 MACD) ─▶ LLM(解读结果) ─▶ Answer

K 线数据从 Tool 节点直接流向 Code 节点,不经过模型上下文;LLM 只负责最后对计算结果做解读。计算效率大幅提升,数值也精确、可复现。

推广:凡是「取数 → 计算 → 解读」类需求 (技术指标、收益统计、组合归因),都适用这个分工 —— LLM 出逻辑 (脚本/解读),代码出数字

关联阅读